AI大模型攻防实战:全生命周期安全守护

AI大模型攻防实战:全生命周期安全守护
    马上咨询



    讲师介绍:

    前字节跳动 安全专家

    麦香,资深网络安全专家,拥有多年互联网安全领域从业经验。曾在多家知名企业担任高级安全职位,专注于Web安全、业务安全、红蓝对抗及CTF比赛。凭借深厚的专业背景和丰富的实战经验,在甲方安全建设、SDLC推进、漏洞挖掘与修复等方面取得显著成绩,并著有《CTF特训营》一书。

    课程简介

    在人工智能技术高速发展的今天,大模型已成为推动产业变革的核心引擎,但其安全风险也日益凸显。本课程聚焦大模型全生命周期的安全威胁与防御体系,结合前沿技术动态、真实案例与全球治理政策,为学员提供系统性攻防知识框架,助力掌握AI安全领域的核心竞争力。

    目标收益

    • 对个人:
      •  从技术到合规,系统性守护大模型全流程安全;
      •  用真实案例经验,快速定位并解决高危漏洞;
      •  以权威评估方法,验证模型安全性与可靠性;
      •  站在行业前沿,应对AI安全领域快速迭代的挑战
    • 对企业:
      •  降低企业合规风险
      •  预防高成本安全事故
      •  提升团队技术防御能力
      •  增强客户信任与品牌安全
      •  优化技术资源投入效率
      •  应对行业监管与竞争压力

    培训对象

    AI研发工程师、安全运维人员、企业技术决策者、政策研究人员,以及希望深入理解大模型安全风险与防御策略的专业人士。

    课程大纲
    AI安全全景与威胁建模
     1.AI技术发展与安全治理挑战
     2.AI安全治理的核心概念与边界
     3.全球AI法律法规框架解读
     4.AI系统架构与攻击面分析
     案例:ChatGPT插件漏洞、Copilot数据泄露事件等
    数据安全与隐私保护
     1.训练数据与模型安全
     2.RAG与向量数据库安全
     3.数据加密和匿名化技术
    对抗性攻击与防御
     1.梯度攻击与黑盒攻击
     2.提示词注入攻击
     3.高级对抗性提示工程技术
     4.防御策略与缓解措施
     5.多模态攻击
     实操:Prompt 注入攻防演练
    模型自身安全
     1.模型投毒与后门攻击
     2.成员推理攻击
     3.系统提示词泄露
     4.资源消耗攻击
     5.微调导致的对齐失效
     6.AI欺骗与目标偏移风险
     实操:成员推理实践、系统提示词泄露实践
    大模型和智能体的供应链风险
     1.AI供应链与传统软件供应链的差异
     2.智能体供应链风险分层模型
     3.外部智能体典型引入业务场景拆解
     4.AI物料清单(AI-BOM)
     5.智能体安全风险等级划分与评级
     6.护栏工程:从原则到运行时架构
     实操:护栏工具配置
    智能体协同安全
     1.智能体协议与生态安全
     2.多智能体间的信任边界与身份认证
     3.群体决策中的连锁风险传导
    智能体使用过程中的安全风险
     1.工具调用越权、滥用风险治理
     2.开发人员智能体标准化使用规范
       -输入内容合规规范
       -输出内容审核规范
     3.智能体使用边界与权限约束
     4."影子AI"(Shadow AI)治理
     实操:输入风险识别实战
    外部智能体的准入控制和运行监控
     1.外部智能体准入评估
     2.全链路安全合规评估
     3.安全防护护栏配置
     4.典型安全异常检测场景识别
     5.安全事件标准化应急响应
     6.外部智能体安全准入标准清单模板讲解与套用
    自研智能体安全管控
     1.自研智能体全生命周期安全管控框架
     2.安全架构设计要点
     3.开发阶段的安全与数据管控
     4.智能体测试体系与安全测试重点
     5.上线前安全门禁校验机制
     6.运行阶段的监控、审计与持续治理
     7.安全测试与红队验证
     实操:威胁建模表、安全检查表