中国发布《AI安全治理框架3.0》,首次写入模型自我改进失控风险
JeffLadish · x · 2026-09-15
有人问中国是否认真对待 AI 失控风险,全国网络安全标准化技术委员会(TC260,网信办下属)发布的《人工智能安全治理框架3.0》提供了一个数据点。
- 新增表述:前言首次写入 AI「已呈现模型和算法自主学习、优化与递归自我改进的加速趋势,技术演化速度和方向可能超出人类预期与控制,需警惕」——去年版本完全没有类似内容。
- 新增风险条目:模型「可能突破……」等失控相关风险被单独列出。
- 效力:该框架虽非法律,但此前版本均在数月内转化为国家标准草案。
原文引用均来自官方英文翻译,这是观察中国 AI 安全治理立场的直接信号。
「安全」频道最新
- OpenAI 更新 Model Spec，围绕五项核心价值引导更强模型 — rhiever · 2026-10-30
- ARIA 领导层变动，Safeguarded AI 项目据称进展良好 — davidad · 2026-10-30
- 费城拟对无人配送车与机器人征税，弥补工资税流失 — QuintinPope5 · 2026-10-30
- 725万个 Gitee 仓库中,平均 275 个就泄露一把可用 API 密钥 — vista8 · 2026-10-30
- Basilisk 与 pixi-audit 发布:为 conda-forge 生态补上漏洞审计 — wolfvollprecht · 2026-10-30
- 假冒 ChatGPT/Claude 桌面版借 GitHub 与 SEO 投毒传播挖矿木马 — ChuckDBrooks · 2026-10-30