K8s与云原生:从微服务到AIGC,关键技术与落地实战

K8s与云原生:从微服务到AIGC,关键技术与落地实战
    马上咨询


    讲师简介

    李老师,中科院计算所高级工程师,开源项目活跃开发者

    20 余年编程与软件开发经验,10余年企业数字化平台研发与产业化工作经历。历任国家重点实验室课题组负责人,上市公司事业群技术总监、首席技术专家。

    李老师项目和授课经验丰富,为多家知名企业和单位提供过服务,包括:中国电信集团、中国移动研究院、国家信息中心、中石化、银联、交通银行、上海期货交易所、Intel亚太研发中心等企业和单位。

    荣获中国软件协会“优秀CTO”等多项荣誉,兼任中国新一代IT产业联盟分委会秘书长、全国高校人工智能与大数据创新联盟专家委员、北京开源创新委员会委员。

    内容概要

    过去的几年里,云原生技术体系有效赋能各行业应用全生命周期的敏捷性、可扩展性和可用性,提升了企业数字化转型的效能。近期,随着OpenAI对应用K8s等技术支持ChatGPT业务具体实践的披露,云原生在大模型和AIGC时代进一步得到更广泛的关注。

    本培训课程以深入浅出的方式,对云原生技术进行全面的剖析并对K8s进行着重讲解,从基础概念,到进阶应用,再到最新的发展趋势。课程对云原生技术在生产环境中的应用实战,以及在大模型时代如何有效运用云原生技术进行深入讨论。通过本课程的学习,学员将全面了解云原生技术,掌握Kubernetes在实际中的应用,以及对未来发展有深度的认识。


    培训目标

    • 全面了解云原生技术的基本概念,深入理解微服务、容器化、Kubernetes、服务网格等关键技术。
    • 掌握云原生技术的实战应用,包括如何在K8s上构建和运行生产级微服务架构应用,以及K8s的网络和存储等核心知识。
    • 探讨云原生技术在大模型时代的新挑战和新发展,理解如何构建支持大模型的云原生平台,以及如何将大模型能力接入DevOps。
    • 提高学员对云原生生态的理解,深化云原生技术在业务中的运用,为企业的数字化转型提供技术支撑。


    适用学员

    本培训课程适合已有一定IT技术基础,对云原生技术感兴趣,并希望在云原生领域进一步提升技能的软件工程师、开发者、系统管理员。同时,也适合对云原生技术有所了解,希望深入理解并在实际工作中应用云原生技术的IT管理者和决策者。


    培训大纲

    云原生技术概述

    • 什么是云原生?

         云原生的定义,核心理念,以及对于行业数字化转型的意义。

    • 践行云原生带来的收益和面对的挑战

         分析实践云原生对企业的好处,讨论实施过程中可能遇到的困难。

    • 云原生技术体系及K8s在其中的地位

          概述云原生的技术体系和常见开源项目,以及从技术和产业两个角度来看K8s在云原生体系中的核心地位。

    容器技术基础

    • Docker基础

         讲解Docker的核心概念、架构原理及基本操作、Docker镜像的原理和Dockerfile。

    • 应用容器化的常见问题与最佳实践

         结合实际项目中遇到的问题,介绍如何把应用打包成容器镜像,以及其他将应用容器化的辅助工作。

    • 容器技术的发展、Docker的替代方案及选型
    • 了解Docker以外的容器技术及发展趋势,如何根据实际项目需求进行容器技术选型。

    Kubernetes(K8s)基础

    • 容器集群与容器编排

         了解容器集群和容器编排的概念和原理,理解K8s的作用和价值。

    • K8s的架构和原理

         介绍Kubernetes的主要组成部分,包括API Server,Controller Manager,Scheduler等通常部署运行在Master节点上的组件,kubelet、kube-proxy和容器运行时等在Worker节点上的组件。

    结合不同规模的项目案例,介绍K8s集群部署架构设计,涵盖从单节点到数千节点多种情况。

    • K8s的核心资源及应用

         详细介绍K8s的核心资源,包括Pod、Deployment、StatefulSet、Service、Volume、Namespaces等。深入讲解这些资源对象在实际项目中如何被使用,如通过Deployment管理无状态应用,使用Service和Ingress将微服务对内和对外提供访问,以及如何通过Namespace进行资源隔离等。同时,也会介绍如何通过YAML或JSON定义和创建这些资源对象,并展示实例让学员了解它们在实际工作中的应用。

    基于 K8s 构建和运行生产级微服务架构应用

    • Sidecar模式及应用

         介绍什么是Sidecar模式,并结合具体实例从开发和运维两个视角讲解K8s上Sidecar模式的应用

    • 应用的健康检查与故障自动处理

         结合实际项目中的不同类型应用,讲解如何做好应用的健康检查,以及如何实现故障自动处理。包括存活状态(liveness)和就绪状态(readiness)检查及K8s上相应的自动化处理机制,包括容器重启和流量熔断等。

    • 容器生命周期管理与优雅下线

         理解容器生命周期(lifecycle)管理的关键,掌握如何在K8s上通过preStop lifecycle hook实现容器和应用的优雅下线,保障在滚动发布和弹性伸缩过程中服务的可用性。

    • 行业应用微服务化及云原生改造案例

         分享一些行业应用转向微服务和云原生的成功案例。

    K8s的网络与存储

    • K8s对基础设施的南向接口标准CNI与CSI

         介绍K8s对接网络和存储基础设施的CNI和CSI接口标准及其原理

    • K8s的网络模型

         讲解K8s的网络模型及K8s网络方案的实现原理。

    • 典型的K8s网络方案简介:Calico、Flannel及其他

         介绍Calico、Flannel等主流K8s网络方案,比较他们的异同和使用场景。

    • K8s 中使用存储的几种模式和应用场景

         讲解K8s中本地数据卷、网路数据卷、PV/PVC等几种存储使用模式及其适用场景。

    • 应用的配置存储与下发

         介绍一类典型数据 —— 应用配置在K8s上的管理、存储、下发和更新。

    • 在K8s上运行数据库等有状态服务

         如何通过StatefulSet和Headless Service在K8s上运行数据库、有状态中间件等服务,并介绍如何适配于行业传统应用改造中的其他有状态服务。

    • 公有云/IaaS环境与物理服务器环境运行K8s的异同及对应用的影响

         对比在公有云的云主机等IaaS环境中和在物理服务器上运行K8s的不同,分析对应用的影响和典型方案。

    云原生生态组件与扩展开发


    • 服务网格

        介绍服务网格的概念、典型开源服务网格Istio的原理和应用,比较服务网格与传统微服务治理方案的异同和集成。

    • Serverless

        讲解函数计算、分布式应用运行时等Serverless方案和应用,讨论其业务价值。

    • CI/CD与云原生DevOps

        CI/CD和DevOps的概念、云原生DevOps(CI/CD)方案与传统方案的区别,典型的云原生DevOps方案及应用。

    • 将云原生能力延伸到边缘

        讨论边缘计算需求及将云原生能力延伸到边缘的价值,介绍KubeEdge等云原生边缘计算和云边协同方案。

    • Helm与Operator

        介绍Helm的原理及应用、Operator模式原理与开发方法,讲解如何利用Helm和Operator实现云原生应用交付和自动化运维,以及基于K8s开发云原生生态组件的方法。

    构建支持大模型和AIGC的云原生平台

    • 大模型的特点及对云原生技术提出的新挑战

         介绍大模型和生成式AI的概念、特点及训练和推理场景对云原生技术提出的新挑战

    • OpenAI基于K8s训练和运行GPT的案例分析

        结合OpenAI将K8s扩展到2500节点和7500节点以支持GPT大模型的实践,讨论如何构建支持大模型的云原生平台。

    • 基于Docker和K8s运行AIGC应用

         结合具体实操介绍如何在K8s上运行生成式AI模型并对外提供服务。

    • 支持AI模型训练与运行的云原生方案

         介绍Kubeflow等一些支持AI模型训练与运行的典型云原生方案。