K8s与云原生:从微服務(wù)到AIGC,关键技术与落地实战

K8s与云原生:从微服務(wù)到AIGC,关键技术与落地实战
    马上咨询


    讲师简介

    李老师,中科(kē)院计算所高级工程师,开源项目活跃开发者

    20 余年编程与软件开发经验,10余年企业数字化平台研发与产业化工作经历。历任國(guó)家重点实验室课题组负责人,上市公司事业群技术总监、首席技术专家。

    李老师项目和授课经验丰富,為(wèi)多(duō)家知名企业和单位提供过服務(wù),包括:中國(guó)電(diàn)信集团、中國(guó)移动研究院、國(guó)家信息中心、中石化、银联、交通银行、上海期货交易所、Intel亚太研发中心等企业和单位。

    荣获中國(guó)软件协会“优秀CTO”等多(duō)项荣誉,兼任中國(guó)新(xīn)一代IT产业联盟分(fēn)委会秘书長(cháng)、全國(guó)高校人工智能(néng)与大数据创新(xīn)联盟专家委员、北京开源创新(xīn)委员会委员。

    内容概要

    过去的几年里,云原生技术體(tǐ)系有(yǒu)效赋能(néng)各行业应用(yòng)全生命周期的敏捷性、可(kě)扩展性和可(kě)用(yòng)性,提升了企业数字化转型的效能(néng)。近期,随着OpenAI对应用(yòng)K8s等技术支持ChatGPT业務(wù)具體(tǐ)实践的披露,云原生在大模型和AIGC时代进一步得到更广泛的关注。

    本培训课程以深入浅出的方式,对云原生技术进行全面的剖析并对K8s进行着重讲解,从基础概念,到进阶应用(yòng),再到最新(xīn)的发展趋势。课程对云原生技术在生产环境中的应用(yòng)实战,以及在大模型时代如何有(yǒu)效运用(yòng)云原生技术进行深入讨论。通过本课程的學(xué)习,學(xué)员将全面了解云原生技术,掌握Kubernetes在实际中的应用(yòng),以及对未来发展有(yǒu)深度的认识。


    培训目标

    • 全面了解云原生技术的基本概念,深入理(lǐ)解微服務(wù)、容器化、Kubernetes、服務(wù)网格等关键技术。
    • 掌握云原生技术的实战应用(yòng),包括如何在K8s上构建和运行生产级微服務(wù)架构应用(yòng),以及K8s的网络和存储等核心知识。
    • 探讨云原生技术在大模型时代的新(xīn)挑战和新(xīn)发展,理(lǐ)解如何构建支持大模型的云原生平台,以及如何将大模型能(néng)力接入DevOps。
    • 提高學(xué)员对云原生生态的理(lǐ)解,深化云原生技术在业務(wù)中的运用(yòng),為(wèi)企业的数字化转型提供技术支撑。


    适用(yòng)學(xué)员

    本培训课程适合已有(yǒu)一定IT技术基础,对云原生技术感兴趣,并希望在云原生领域进一步提升技能(néng)的软件工程师、开发者、系统管理(lǐ)员。同时,也适合对云原生技术有(yǒu)所了解,希望深入理(lǐ)解并在实际工作中应用(yòng)云原生技术的IT管理(lǐ)者和决策者。


    培训大纲

    云原生技术概述

    • 什么是云原生?

         云原生的定义,核心理(lǐ)念,以及对于行业数字化转型的意义。

    • 践行云原生带来的收益和面对的挑战

         分(fēn)析实践云原生对企业的好处,讨论实施过程中可(kě)能(néng)遇到的困难。

    • 云原生技术體(tǐ)系及K8s在其中的地位

          概述云原生的技术體(tǐ)系和常见开源项目,以及从技术和产业两个角度来看K8s在云原生體(tǐ)系中的核心地位。

    容器技术基础

    • Docker基础

         讲解Docker的核心概念、架构原理(lǐ)及基本操作、Docker镜像的原理(lǐ)和Dockerfile。

    • 应用(yòng)容器化的常见问题与最佳实践

         结合实际项目中遇到的问题,介绍如何把应用(yòng)打包成容器镜像,以及其他(tā)将应用(yòng)容器化的辅助工作。

    • 容器技术的发展、Docker的替代方案及选型
    • 了解Docker以外的容器技术及发展趋势,如何根据实际项目需求进行容器技术选型。

    Kubernetes(K8s)基础

    • 容器集群与容器编排

         了解容器集群和容器编排的概念和原理(lǐ),理(lǐ)解K8s的作用(yòng)和价值。

    • K8s的架构和原理(lǐ)

         介绍Kubernetes的主要组成部分(fēn),包括API Server,Controller Manager,Scheduler等通常部署运行在Master节点上的组件,kubelet、kube-proxy和容器运行时等在Worker节点上的组件。

    结合不同规模的项目案例,介绍K8s集群部署架构设计,涵盖从单节点到数千节点多(duō)种情况。

    • K8s的核心资源及应用(yòng)

         详细介绍K8s的核心资源,包括Pod、Deployment、StatefulSet、Service、Volume、Namespaces等。深入讲解这些资源对象在实际项目中如何被使用(yòng),如通过Deployment管理(lǐ)无状态应用(yòng),使用(yòng)Service和Ingress将微服務(wù)对内和对外提供访问,以及如何通过Namespace进行资源隔离等。同时,也会介绍如何通过YAML或JSON定义和创建这些资源对象,并展示实例让學(xué)员了解它们在实际工作中的应用(yòng)。

    基于 K8s 构建和运行生产级微服務(wù)架构应用(yòng)

    • Sidecar模式及应用(yòng)

         介绍什么是Sidecar模式,并结合具體(tǐ)实例从开发和运维两个视角讲解K8s上Sidecar模式的应用(yòng)

    • 应用(yòng)的健康检查与故障自动处理(lǐ)

         结合实际项目中的不同类型应用(yòng),讲解如何做好应用(yòng)的健康检查,以及如何实现故障自动处理(lǐ)。包括存活状态(liveness)和就绪状态(readiness)检查及K8s上相应的自动化处理(lǐ)机制,包括容器重启和流量熔断等。

    • 容器生命周期管理(lǐ)与优雅下線(xiàn)

         理(lǐ)解容器生命周期(lifecycle)管理(lǐ)的关键,掌握如何在K8s上通过preStop lifecycle hook实现容器和应用(yòng)的优雅下線(xiàn),保障在滚动发布和弹性伸缩过程中服務(wù)的可(kě)用(yòng)性。

    • 行业应用(yòng)微服務(wù)化及云原生改造案例

         分(fēn)享一些行业应用(yòng)转向微服務(wù)和云原生的成功案例。

    K8s的网络与存储

    • K8s对基础设施的南向接口标准CNI与CSI

         介绍K8s对接网络和存储基础设施的CNI和CSI接口标准及其原理(lǐ)

    • K8s的网络模型

         讲解K8s的网络模型及K8s网络方案的实现原理(lǐ)。

    • 典型的K8s网络方案简介:Calico、Flannel及其他(tā)

         介绍Calico、Flannel等主流K8s网络方案,比较他(tā)们的异同和使用(yòng)场景。

    • K8s 中使用(yòng)存储的几种模式和应用(yòng)场景

         讲解K8s中本地数据卷、网路数据卷、PV/PVC等几种存储使用(yòng)模式及其适用(yòng)场景。

    • 应用(yòng)的配置存储与下发

         介绍一类典型数据 —— 应用(yòng)配置在K8s上的管理(lǐ)、存储、下发和更新(xīn)。

    • 在K8s上运行数据库等有(yǒu)状态服務(wù)

         如何通过StatefulSet和Headless Service在K8s上运行数据库、有(yǒu)状态中间件等服務(wù),并介绍如何适配于行业传统应用(yòng)改造中的其他(tā)有(yǒu)状态服務(wù)。

    • 公有(yǒu)云/IaaS环境与物(wù)理(lǐ)服務(wù)器环境运行K8s的异同及对应用(yòng)的影响

         对比在公有(yǒu)云的云主机等IaaS环境中和在物(wù)理(lǐ)服務(wù)器上运行K8s的不同,分(fēn)析对应用(yòng)的影响和典型方案。

    云原生生态组件与扩展开发


    • 服務(wù)网格

        介绍服務(wù)网格的概念、典型开源服務(wù)网格Istio的原理(lǐ)和应用(yòng),比较服務(wù)网格与传统微服務(wù)治理(lǐ)方案的异同和集成。

    • Serverless

        讲解函数计算、分(fēn)布式应用(yòng)运行时等Serverless方案和应用(yòng),讨论其业務(wù)价值。

    • CI/CD与云原生DevOps

        CI/CD和DevOps的概念、云原生DevOps(CI/CD)方案与传统方案的區(qū)别,典型的云原生DevOps方案及应用(yòng)。

    • 将云原生能(néng)力延伸到边缘

        讨论边缘计算需求及将云原生能(néng)力延伸到边缘的价值,介绍KubeEdge等云原生边缘计算和云边协同方案。

    • Helm与Operator

        介绍Helm的原理(lǐ)及应用(yòng)、Operator模式原理(lǐ)与开发方法,讲解如何利用(yòng)Helm和Operator实现云原生应用(yòng)交付和自动化运维,以及基于K8s开发云原生生态组件的方法。

    构建支持大模型和AIGC的云原生平台

    • 大模型的特点及对云原生技术提出的新(xīn)挑战

         介绍大模型和生成式AI的概念、特点及训练和推理(lǐ)场景对云原生技术提出的新(xīn)挑战

    • OpenAI基于K8s训练和运行GPT的案例分(fēn)析

        结合OpenAI将K8s扩展到2500节点和7500节点以支持GPT大模型的实践,讨论如何构建支持大模型的云原生平台。

    • 基于Docker和K8s运行AIGC应用(yòng)

         结合具體(tǐ)实操介绍如何在K8s上运行生成式AI模型并对外提供服務(wù)。

    • 支持AI模型训练与运行的云原生方案

         介绍Kubeflow等一些支持AI模型训练与运行的典型云原生方案。