实现自主可控的AIGC应用开发底座 (1天)

实现自主可控的AIGC应用开发底座 (1天)
    马上咨询


    课程概述

    本课程"实现自主可控的AIGC应用开发底座"旨在指导学员如何利用一系列开源工具形成工具链,实现自主可控的AIGC解决方案底座。我们将首先介绍如何使用开源工具搭建和管理API网关,这是连接模型和应用的重要桥梁。接着,我们将学习如何在本地环境中运行和测试开源大型语言模型(LLM),这是自然语言处理(NLP)解决方案的核心。然后,我们将探讨如何构建低代码无代码的AIGC应用开发平台,使得开发过程更加高效和灵活。最后,我们将学习如何将LLM应用部署和上线,以实现其在实际环境中的应用。通过本课程,学员将掌握如何利用开源工具实现自主可控的AIGC解决方案底座的全套技能。


    课程目标

    完成本课程后,学员将能够:

    1. 理解并掌握AIGC开发底座工具链:学员将全面理解LLM开发底座工具链的构成和工作原理,能够熟练使用这些工具进行AIGC应用的开发和部署。
    2. 熟练搭建和管理API网关:包括LLM API的调用方法和策略,使用One-API项目部署API Gateway,以及API渠道和令牌的管理,API调用的监控和用户管理。
    3. 掌握LLM模型的本地运行和测试评估:学员将能够使用LM Studio实现开源大模型的本地运行,对接开源大语言模型和本地开发环境。同时,学员还将掌握LLaMa模型和Mixtrel MoE模型的测试和评估,以及使用Phi 2实现本地平替Github Copilot解决方案和嵌入式模型的本地运行。
    4. 自主构建和优化低代码无代码AIGC应用开发平台:学员将能够部署Flowise并快速实现基本的会话机器人,整合Web浏览插件的会话机器人,实现领域知识库(Embedding & 向量检索引擎),以及实现智能体。
    5. 理解并实施LLM应用的部署:学员将掌握应用容器化部署的基本概念,借助Vercel实现应用的PaaS化部署,部署ChatGPT Web,以及快速上线自定义LLM应用。
    6. 通过实战项目,能够将理论知识转化为实际应用:学员将有机会实践和应用所学的知识和技能,以自主开发和部署AIGC应用。


    目标受众

    这个课程特别适合那些希望在AIGC领域快速实现应用开发和部署,同时对技术有一定的理解和实践经验,但希望进一步简化开发流程和提高效率的专业人士。

    1. 有经验的AIGC开发者:已经具备LLM和AIGC基础知识,希望进一步提升技能,通过开源项目快速构建和部署AIGC应用的开发者。
    2. 快速应用部署者:寻求快速上线AIGC解决方案的专业人士,他们可能已经有一定的AIGC应用开发经验,但希望利用低代码或无代码工具加速开发流程。
    3. 技术转型者:希望从传统软件开发转向AIGC领域的技术人员,他们需要一个实践导向的课程来快速掌握AIGC工具链的搭建和应用开发。
    4. 企业内部创新团队:企业中负责推动技术创新和应用落地的团队成员,他们需要了解如何利用现有的开源资源和工具快速构建AIGC解决方案,以支持企业内部的项目或产品。
    5. 教育和研究机构的技术实践者:在教育或研究机构工作,希望将AIGC技术应用于教学或研究项目,需要快速上手并实践AIGC应用开发的专业人士。
    6. 技术创业者:有志于在AIGC领域创业的个人或团队,他们希望通过本课程快速掌握构建AIGC应用的技能,以便快速验证和推出自己的产品。
    7. 技术爱好者:对AIGC技术有浓厚兴趣,希望通过实践项目来探索和实现自己的想法,同时希望减少技术门槛,快速实现创意的技术爱好者。


    课时:1天或者6小时


    课程大纲
    搭建API Gateway
    • AIGC 开发底座工具链介绍
    • LLM API 调用方法和策略综述
    • 使用One-API项目部署API Geateway
    • 管理API渠道和令牌
    • API 调用的监控以及用户管理
    实现LLM模型本地运行
    • 使用LM Studio实现开源大模型的本地运行
    • 开源大语言模型和本地开发环境的对接
    • 测试和评估LLaMa模型
    • 测试和评估Mixtrel MoE模型
    • 使用Phi 2实现本地平替Github Copilot解决方案
    • 实现嵌入式模型的本地运行
    构建低代码无代码AIGC应用开发平台
    • 部署Flowise
    • 快速实现基本会话机器人
    • 实现整合Web浏览插件的会话机器人
    • 实现领域知识库(Embedding & 向量检索引擎)
    • 实现智能体
    AIGC 应用的部署
    • 应用容器化部署介绍
    • 借助Vercel实现应用的PaaS化部署
    • 部署ChatGPT Web
    • 快速上线自定义LLM应用