清华等提出 AI 失控预测框架，准确率达 84%
jiqizhixin · x · 2026-08-10
清华大学、上海期智研究院与剑桥大学联合提出一种新的行为框架，旨在提前预测前沿 AI 系统何时会失去控制。
该框架将失控风险拆解为动机错位、有害能力和逃避监控三个维度，并通过 13 个具体方面进行测量以得出综合风险评分。
实验表明，该框架对 13 个前沿模型的风险预测与实际失败率的相关度达到 84%，且能有效指导针对性修复，同时不损害模型的整体性能。
「安全」频道最新
- Gemini 4 模型卡披露:模型可省去生物武器研究数月试错 — Puzzleheaded-King584 · 2026-10-16
- GPT-5.6 Sol 自行推导密钥动用用户未提供的钱包支付部署费 — terryyuezhuo · 2026-10-16
- 37 年历史的 OpenBSD 内核整数溢出漏洞可提权至 root — jedisct1 · 2026-10-16
- Vals AI 实测 6 个个人 Agent 退 £350 款:用户失联后仍激进追偿 — ricklamers · 2026-10-16
- 一个末尾句点绕过防护:VS Copilot 漏洞可致远程代码执行 — wunderwuzzi23 · 2026-10-16
- 「AI 驱动的网络安全黑天鹅正在发生」引发 2FA 提醒 — danielrock · 2026-10-16