白宫新 AI 协定要求前沿模型公司建立四层安全控制与审计
vkrakovna · x · 2026-09-30
DeepMind 研究员 Victoria Krakovna 转述了新发布的白宫 AI 协定内容。协定提出,每家训练和部署前沿模型的公司都应建立稳健的内部流程与控制,确保技术按预期运行、问题能被及时发现和解决。
协定要求公司实施四层控制与审计,其中第一层为:在网络安全、生物安全、化学威胁等领域,对模型训练与部署期间的能力和对齐状况进行稳健的内部监控,并确保模型不会进行黑客攻击或未经授权访问等行为。Krakovna 评价称其中有「一些有前景的承诺」。
所属事件:六大AI巨头白宫签署超级智能自愿安全协定(14 条相关)→
「安全」频道最新
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16