2025年生成式AI服务安全应急响应指南

2026-1-6 08:07| 发布者: 派大星18 0

摘要: 近日，全国网络安全标准化技术委员会（网安标委）正式发布《2025网络安全标准实践指南——生成式人工智能服务安全应急响应指南》，为生成式AI服务提供者在面对安全事件时提供了系统化、标准化的应对框架。这份指南紧 ...

近日，全国网络安全标准化技术委员会（网安标委）正式发布《2025网络安全标准实践指南——生成式人工智能服务安全应急响应指南》，为生成式AI服务提供者在面对安全事件时提供了系统化、标准化的应对框架。

这份指南紧扣《生成式人工智能服务管理暂行办法》的要求，聚焦于AI服务在内容生成、数据处理和模型运行过程中可能出现的安全风险，提出了一整套覆盖“应急准备—监测预警—应急处置—总结改进”的全流程管理机制，堪称国内首部面向生成式AI安全应急的权威操作手册。

该指南首次明确了生成式AI服务安全事件的分类与分级标准。

在分类上，将安全事件划分为四大类：信息内容安全事件、数据安全事件、网络攻击事件及其他安全事件。

其中，信息内容安全事件细分为违法信息生成、虚假有害信息生成、煽动教唆信息生成、权益侵害信息生成和歧视性信息生成五种情形，直击当前AI滥用的痛点，如生成违法内容、制造虚假新闻、传播歧视言论等。

数据安全事件则涵盖数据泄露、篡改与投毒，强调训练数据和模型参数的保护。

网络攻击事件则包括模型篡改、拒绝服务、漏洞利用和社会工程攻击，尤其指出通过提示词工程诱导AI泄露敏感信息的行为也属于安全事件范畴。

在事件分级方面，指南综合考量事件影响对象的重要程度、业务损失严重程度和社会危害严重程度三大维度，将事件划分为一级（特别重大）至四级（一般）四个等级。

例如，若AI服务生成内容严重危害国家安全或社会稳定，即便服务本身属一般级别，也可能被定为二级甚至一级事件，体现了“就高不就低”的判定原则。

这种量化分级有助于企业快速评估事件严重性，启动相应级别的应急预案。

指南还详细拆解了应急响应四阶段的关键动作。

在应急准备阶段，要求企业建立事件响应小组（IRT），制定分类分级预案，并建设关键词库、测试题库等技术支撑体系，确保对热点风险的响应时效在24小时内。

监测预警阶段强调自动化工具与人工审查结合，对输入输出内容、数据访问、模型参数等进行实时监控，模型对高风险问题的拒答率需达95%以上。

应急处置阶段根据事件级别采取功能限制、服务下线、漏洞修复等措施，并明确三级以上事件须在24小时内向主管部门报告。

最后的总结改进阶段鼓励企业复盘事件、更新案例库、优化模型与流程，实现持续安全能力提升。

尤为值得关注的是，指南在附录中提供了两个典型案例：一是因模型偏差导致生成性别歧视内容的四级事件处置流程；二是因数据错误生成虚假医药信息引发公众恐慌的二级事件应对全过程。

这两个案例生动展示了从用户投诉触发、系统告警、事件定级、紧急下线、协同删谣到模型优化、流程改进的完整闭环，为企业提供了极具操作性的参考范本。

总体来看，该指南不仅填补了国内生成式AI安全应急管理的空白，也为行业发展树立了合规标杆，标志着我国AI治理正朝着精细化、实战化方向加速迈进。

出品方：网安标委
发布时间：2025年
文档页数：49页