在 2025 年国家网络安全宣传周主论坛上，一则消息引发了人工智能领域的广泛关注 ——《人工智能安全治理框架》2.0 版正式发布。这一举措意义重大，彰显了我国在人工智能安全治理方面与时俱进、积极应对新态势的决心。
自 2024 年 9 月《人工智能安全治理框架》1.0 版发布后，在全球范围内收获了广泛关注。但在过去一年间，人工智能技术与应用的发展可谓日新月异。高效能轻量级开源模型不断涌现，智能体应用日益普及，AI 正以前所未有的速度向各行业深度渗透。这种迅猛发展在带来无限机遇的同时，也滋生了诸多新的安全风险与治理难题。比如，随着 AI 在金融领域的广泛应用，金融诈骗手段借助 AI 技术变得更加隐蔽和复杂；在医疗领域，AI 辅助诊断系统的准确性和数据安全性也面临着新的挑战。
为有效应对这些新机遇与新挑战，在国家网信办的精心指导下，国家互联网应急中心充分发挥牵头作用，联合众多人工智能专业机构、科研院所及行业企业，共同对原有的框架进行升级完善，最终推出了《人工智能安全治理框架》2.0 版。作为全国网络安全标准化技术委员会技术文件，2.0 版以 2024 年的 1.0 版为基石，紧密结合人工智能技术的最新发展动态以及实际应用情况。它持续追踪风险变化，进一步完善优化风险分类体系，深入研究探索风险分级机制，对防范治理措施进行动态调整更新。
与 1.0 版相比，2.0 版在风险精细化管理方面表现得更为突出。它会根据不同应用场景划分风险等级，例如将内部 LLM 工具归为低风险场景，而客户支持聊天机器人、欺诈检测系统等则被列为高风险场景，进而实现差异化管控。如此一来，企业便能依据风险等级更合理、高效地分配安全资源。同时，《框架》2.0 版首次提出了人工智能失控风险应对准则，为应对可能出现的极端风险情况提供了指导方向。在具体安全措施上，明确了访问控制、日志与监控、数据处理、LLM 安全及模型加固等五大类基线控制要求，像实施基于角色的权限管理、建立模型调用日志审计机制、开展敏感数据清洗脱敏等，都具有很强的可操作性。
国家互联网应急中心相关负责同志指出，《框架》2.0 版的发布具有多方面的重要意义。它顺应了全球人工智能发展的大潮流，在促进技术创新的同时，强化了治理实践。通过在人工智能安全、伦理、治理等关键方面不断凝聚深化共识，助力打造安全、可信、可控的人工智能发展生态环境。并且，积极推动构建跨国界、跨领域、跨行业的协同治理格局，为推进多边机制下人工智能安全治理合作贡献力量，最终推动世界范围内技术成果的普惠共享，确保人类社会都能享受到人工智能发展带来的红利。
.
.
.
.
