课程概述
本课程"实现自主可控的AIGC应用开发底座"旨在指导学员如何利用一系列开源工具形成工具链,实现自主可控的AIGC解决方案底座。我们将首先介绍如何使用开源工具搭建和管理API网关,这是连接模型和应用的重要桥梁。接着,我们将学习如何在本地环境中运行和测试开源大型语言模型(LLM),这是自然语言处理(NLP)解决方案的核心。然后,我们将探讨如何构建低代码无代码的AIGC应用开发平台,使得开发过程更加高效和灵活。最后,我们将学习如何将LLM应用部署和上线,以实现其在实际环境中的应用。通过本课程,学员将掌握如何利用开源工具实现自主可控的AIGC解决方案底座的全套技能。
课程目标
完成本课程后,学员将能够:
- 理解并掌握AIGC开发底座工具链:学员将全面理解LLM开发底座工具链的构成和工作原理,能够熟练使用这些工具进行AIGC应用的开发和部署。
- 熟练搭建和管理API网关:包括LLM API的调用方法和策略,使用One-API项目部署API Gateway,以及API渠道和令牌的管理,API调用的监控和用户管理。
- 掌握LLM模型的本地运行和测试评估:学员将能够使用LM Studio实现开源大模型的本地运行,对接开源大语言模型和本地开发环境。同时,学员还将掌握LLaMa模型和Mixtrel MoE模型的测试和评估,以及使用Phi 2实现本地平替Github Copilot解决方案和嵌入式模型的本地运行。
- 自主构建和优化低代码无代码AIGC应用开发平台:学员将能够部署Flowise并快速实现基本的会话机器人,整合Web浏览插件的会话机器人,实现领域知识库(Embedding & 向量检索引擎),以及实现智能体。
- 理解并实施LLM应用的部署:学员将掌握应用容器化部署的基本概念,借助Vercel实现应用的PaaS化部署,部署ChatGPT Web,以及快速上线自定义LLM应用。
- 通过实战项目,能够将理论知识转化为实际应用:学员将有机会实践和应用所学的知识和技能,以自主开发和部署AIGC应用。
目标受众
这个课程特别适合那些希望在AIGC领域快速实现应用开发和部署,同时对技术有一定的理解和实践经验,但希望进一步简化开发流程和提高效率的专业人士。
- 有经验的AIGC开发者:已经具备LLM和AIGC基础知识,希望进一步提升技能,通过开源项目快速构建和部署AIGC应用的开发者。
- 快速应用部署者:寻求快速上线AIGC解决方案的专业人士,他们可能已经有一定的AIGC应用开发经验,但希望利用低代码或无代码工具加速开发流程。
- 技术转型者:希望从传统软件开发转向AIGC领域的技术人员,他们需要一个实践导向的课程来快速掌握AIGC工具链的搭建和应用开发。
- 企业内部创新团队:企业中负责推动技术创新和应用落地的团队成员,他们需要了解如何利用现有的开源资源和工具快速构建AIGC解决方案,以支持企业内部的项目或产品。
- 教育和研究机构的技术实践者:在教育或研究机构工作,希望将AIGC技术应用于教学或研究项目,需要快速上手并实践AIGC应用开发的专业人士。
- 技术创业者:有志于在AIGC领域创业的个人或团队,他们希望通过本课程快速掌握构建AIGC应用的技能,以便快速验证和推出自己的产品。
- 技术爱好者:对AIGC技术有浓厚兴趣,希望通过实践项目来探索和实现自己的想法,同时希望减少技术门槛,快速实现创意的技术爱好者。
课时:1天或者6小时
课程大纲 |
搭建API Gateway |
- AIGC 开发底座工具链介绍
- LLM API 调用方法和策略综述
- 使用One-API项目部署API Geateway
- 管理API渠道和令牌
- API 调用的监控以及用户管理
|
实现LLM模型本地运行 |
- 使用LM Studio实现开源大模型的本地运行
- 开源大语言模型和本地开发环境的对接
- 测试和评估LLaMa模型
- 测试和评估Mixtrel MoE模型
- 使用Phi 2实现本地平替Github Copilot解决方案
- 实现嵌入式模型的本地运行
|
构建低代码无代码AIGC应用开发平台 |
- 部署Flowise
- 快速实现基本会话机器人
- 实现整合Web浏览插件的会话机器人
- 实现领域知识库(Embedding & 向量检索引擎)
- 实现智能体
|
AIGC 应用的部署 |
- 应用容器化部署介绍
- 借助Vercel实现应用的PaaS化部署
- 部署ChatGPT Web
- 快速上线自定义LLM应用
|