实战砺剑 AI 安全,启幕人才培养新篇 —— 关保联盟首期AI攻击与测试培训圆满收官
作者：微信文章为贯彻落实党中央、国务院关于持续推进“人工智能+”行动的决策部署，推动人工智能赋能关键基础设施领域网络安全，关保联盟启动AI安全专业技能培养计划，普及AI安全知识，培养实战能力。
在此背景下，9月18日至20日关保联盟“AI安全攻击与测试课程第一期班”应运而生，20名来自各行业的网络安全从业者完成了为期3天的实战培训，共同探索AI时代的安全攻防之道。
本次培训以“从理论到实战，从大模型安全到AI应用安全”为核心目标，聚焦“解决企业真实安全问题”，打造“三大特色”：
01
顶尖专家阵容
一线实战派+行业权威
本次培训邀请的讲师均为AI安全领域的实战型权威，覆盖“大模型安全、AI应用攻防、安全评估”全链条；
洺熙：《AI迷思录》作者、连续两届Claude与OpenAI全球红队测试通关者；
刘洋：云起无垠安全研究员、SecGPT2.0核心贡献者；
布衣无涯：十二年攻防经验，协助近千家单位处理勒索应急 ；
宁大叔小怪兽：ChaMd5战队AI组负责人、DataCon2024大数据安全分析竞赛-AI安全赛道二等奖获得者。
02
六大模块设计
覆盖AI安全全生命周期
课程设置六大核心模块，精准对接企业“从大模型选型到AI应用上线前测试”中的AI漏洞、合规评测的真实需求：
模块一：大模型赋能应用场景实践
以 “大模型赋能应用场景” 为核心，涵盖人工智能发展史与核心概念、大模型训练全流程技术（Transformer 架构、数据收集格式化、分布式训练、Fine-tuning）及提示词设计实操，同时融入威胁情报知识检索增强、国内首个网络安全开源大模型 SecGPT 开发等安全场景应用内容。
模块二：大模型安全攻防实战
以“大模型安全攻防实战” 为核心，涵盖大模型全生命周期风险图谱，围绕模型算法安全（对抗样本）、数据安全（数据投毒与防范）、系统安全（权限管理、硬件后门、开发供应链安全）及后门植入与异常输出等核心风险展开实战讲解。
模块三：AI 应用开发与实践
以 “AI 应用开发与实战” 为核心，围绕安全智能体多场景（智能威胁情报、恶意软件分析等）展开介绍，通过 Dify 平台讲解安全智能体从 0 到 1 开发，并开展智能客服系统、威胁情报安全知识库、流量检测 workflow、信息收集智能体等实战实践。
模块四：AI 应用攻防实战
以 “AI 应用攻防实战” 为核心，围绕 AI 应用全栈风险图谱（硬件 - 软件 - 服务 - 模型）、LLM OWASP Top10 解析，讲解攻击测试流程与方法，聚焦 AI 应用集成 / 智能体 / 基础设施等风险实战，并通过知识库投毒、AI 贷款过度代理等靶场训练强化攻防能力。
模块五：人工智能安全评估技术
聚焦 “人工智能安全评估技术”，涵盖评估依据 TC260 解读、AI 安全检测技术体系（组件/服务/代码/模型等测试方法）、Promptfoo/Garak 等实战工具使用，以及对抗样本生成、泛化数据集、输出过滤与访问控制等核心评估技术。
模块六：人工智能安全综合实战
围绕 “人工智能安全综合实战”，通过本地部署模型 / 多智能体手工测试、工具化评估检测、评测报告撰写、运行时持续监测与日志分析等环节，覆盖从测试到防御的全流程，最终聚焦攻击防御与缓解策略的设计与落地。
03
严考严训
从“学”到“用”的闭环检验
为确保培训“不走过场”，本次课程采用“理论讲解+实操演练+结业考核”的三维模式：每天课程配套2小时以上的实操练习（如“大模型Prompt越狱测试”“AI应用漏洞挖掘”），让学员即时将理论转化为技能。
第三天晚上19:00-21:00，更是以“理论闭卷考试+实操场景模拟”的形式，全面检验学员对“AI安全攻击流程” “AI系统评估方法”的掌握程度，确保“学有所成、成有所用”。
本次培训的“实战导向”得到了学员的高度认可，课上同学们注意力非常集中，训练过程非常顺畅。
学员反馈：终于摸到了AI 安全“实战门”
某军队院校在读博士孙同学
河南某测评机构测评工程师权同学
某上市安全公司安全运营总监李同学
中国某测评机构密码研究姚同学
北京某测评机构红队专家王同学
同学们课上反馈的AI基础知识薄弱或安全基础薄弱的问题，后续联盟会通过沙龙、录播课程、竞赛活动等为同学们扩展知识面和知识深度。
未来可期：AI 安全人才培养再启新篇
作为关保联盟在AI安全人才培养领域的首次探索，本次培训班的圆满结束，标志着联盟在“AI安全生态构建”中迈出了关键一步。
关保联盟秘书长黄一玲女士表示： AI安全的核心是“人”。未来，联盟将从三个方向深化AI安全人才培养：
1、进阶式课程
持续推出“AI安全攻击与测试实战班”（针对安全从业者、开发人员、运维人员，聚焦‘发现大模型及模型应用的0day漏洞和安全风险’）、尽快推出“AI安全运营与防御实战班”（针对企业安全负责人、安全专岗、开发人员，讲解AI安全的防护建设、日常运营与应急处置）。
2、行业定制
针对金融、能源、政府等不同行业，推出“行业专属AI安全培训”，比如金融AI信贷系统安全、能源AI运维系统安全和“技术专业AI安全培训”，如AI赋能CTF竞赛培训、AI赋能勒索培训、AI赋能数据安全培训等。
3、生态联动
与企业合作推出“实训基地”，让学员直接参与企业真实AI项目的安全测试，实现“培训→实践→就业”的闭环。 与靶场合作推出“AI安全竞赛”，让学员在攻防靶场沉浸式实战，在创新靶场找中验证创新思路，达成“培训-选拔-应用”能力落地。
AI时代的安全竞争，本质是“人才的竞争”。关保联盟首期AI安全攻防与测试培训班的结束，正是行业“AI安全人才培养”的新起点——未来，更多“懂AI技术、会安全攻防”的复合型人才将从这里走出，为金融、能源等关键领域的AI应用筑牢“安全防线”，为数字经济的健康发展保驾护航。
近期AI安全课程开课计划，欢迎报名参训
课程报名及咨询
关小元
手机号：13391615952
邮 箱：guanxiaoyuan@cnciipa.com
乔彩玉
手机号：15011292994
邮 箱：qiaocaiyu@cnciipa.com
扫码报名
相关阅读
关于举办“AI安全攻防与测试”第二期培训班的通知
关于举办第三期“2025年网络攻防专项行动总结提升暨蓝队防守能力强 化培训”的通知
关于举办“关键信息基础设施安全保护人员专业能力认证”培训班的通知
https://mmbiz.qpic.cn/mmbiz_png/DoGPicehpSD7cpVMQZibDDj4efm0iboP66FC8AgPrtfmooScHz8h8icVJUMaWyBbe7XOr2fG11oyRc1MF6dQUpwAjQ/640?wx_fmt=png&from=appmsg&randomid=dc1wwqbo&wxfrom=5&wx_lazy=1&tp=webp#imgIndex=12
页:
[1]