跳至主要內容

LLMOPS 平台

孔令飞约 587 字大约 2 分钟

LLMOPS 平台:EasyAIopen in new window

提示:项目当前基本功能已经开发完成。

EasyAI 项目是一个面向云原生环境的 LLM 连接器,致力于通过简化 LLM 接入和使用的过程,降低业务团队与 AI 技术之间的门槛,从而加速 AI 技术对业务的赋能。

EasyAI 实现了一个功能完备、扩展能力强、代码质量高、易维护的云原生 AI 平台,具有以下 LLMOPS 功能:

核心功能包括以下 2 部分:

  • 模型训练: 数据源、数据集、数据处理、模型仓库、模型训练、模型部署、模型对比等;
  • 模型推理: 智能体、提示词、工作流、插件、模型效果评估、知识库等。

相比于其他 LLMOPS 平台(例如:扣子open in new windowDifyopen in new windowBetterYeaopen in new window),EasyAI 通过接入 EasyML 项目实现了模型训练的功能。并且 EasyAI 项目代码质量很高,并且具有很高的扩展能力。

EasyAI 平台中使用到的技术栈包括了 Go 项目开发技术栈、云原生技术栈和 AI 技术栈。通过 EasyAI 项目,开发者可以体系化的加强 Go 项目开发、云原生和 AI 技术的开发能力。

EasyAI 项目软件架构如下:

这里要注意, EasyAI 平台使用的开发技术是 Go 项目开发实战课、Kubernetes 编程实战课中介绍的技术,并加入了 AI 领域的技术。所以,想更好的掌握 EasyAI 项目的开发,最好预先学习上述 2 类体系课。

EasyAI 平台初版已经开发完成,课程正在开发中。

贡献者: 孔令飞
用手机看用手机看
微信扫一扫
用手机看
可以手机看或分享至朋友圈
加入星球加入星球
一个助力 Go 开发者在 AI 时代建立技术竞争力的知识星球!
加入星球
加交流群加交流群
扫码自动进群
加交流群
PS:添加时请备注 入群
下载资料下载资料
扫码公众号,回复 资料 获取Go、云原生、AI编程学习资源「无任何套路」
下载资料
关公众号关公众号
欢迎扫码关注我的公众号
关公众号