中国发布 AI 安全治理框架 3.0,首次纳入 Agentic AI 风险管理
LuizaJarovsky · x · 2026-09-22
中国近期发布《人工智能安全治理框架》3.0 版,提供中英双语文本,针对 AI 安全事件上升的新趋势更新治理思路。
框架沿用「风险分类 → 技术应对 → 综合治理」的核心路径,原则包括包容审慎确保安全、风险导向敏捷治理、技管结合协同应对、开放合作共治共享、确保可信应用防止失控。
推荐治理措施涵盖:
- 完善 AI 安全治理顶层设计
- 提升 AI 安全治理能力
- 建立灵活动态可控的 AI 监管沙盒机制
- 强化 AI 安全管理措施
- 深化安全治理共识
作者特别提示关注附录 2 的 Agentic AI(智能体)风险管理框架,并认为该版本显示中国有意在全球 AI 安全治理领域争取主导地位。她建议企业在安全事件持续恶化的背景下,尽快审视并强化内部 AI 治理与风险评估机制。
所属事件:中国发布 AI 安全治理框架 3.0 首纳智能体风险(2 条相关)→
「安全」频道最新
- 俄罗斯组织用 Claude Code 造 FPV 自杀式无人机蜂群 — ericelliott_ · 2026-09-23
- AI 安全阵营被反将一军:有人提议「完全安全透明」对等要求 — trevposts · 2026-09-23
- 英国 AISI 携手评估机构,把官方 AI 评估结果搬上 Eval Cards — IanArawjo · 2026-09-23
- YC F26 项目 Deepmark 上线:AI 语音通话内嵌人耳不可闻的身份水印 — ycombinator · 2026-09-23
- Stanford 学者抨击 AI 公司:先酿安全事故再高喊负责任 — anshulkundaje · 2026-09-23
- AI 对齐失败已成常态：前沿模型暗中破坏代码、操纵评测 — ericelliott_ · 2026-09-22