长文批 Anthropic：if-then 安全承诺缺乏外部约束形同空文
CharlieBull0ck · x · 2026-11-03
作者系统梳理了 AI 行业流行的 if-then 承诺（如果模型出现能力 X 就采取缓解 Y，做不到就暂停开发），该概念源自 Bengio-Hinton 等人的 AI 风险论文，后经 Holden Karnofsky 推广。
核心论点：自愿承诺只有在有外部「利维坦」强制执行时才有效。公司有动机承诺能带来好 PR 的条款，事后再违约——做承诺容易且有利可图，兑现承诺则困难且昂贵。Karnofsky 本人也承认这些承诺最终需转化为法律约束。
作者点名批评 Anthropic 的两次行为：
- 加州 SB 53 要求强制执行其 RSP（负责任扩展政策）承诺后，Anthropic 反而推出了一份不含任何具体承诺的新 RSP——于是出现了一份法律上必须遵守但什么都没承诺的 RSP，和一份承诺了大量安全内容但只靠口头保证的 RSP；
- Anthropic 自己提出的法案里所有条款都是自愿性质：安全框架由合规律师撰写以最小化责任，独立审计员可自选、可随意解雇，政府无权监管审计员，审计结论除非能证明灾难迫在眉睫否则几乎无后果。
结论：Anthropic 的「显示性偏好」是随时想做什么就做什么。
所属事件:Anthropic 安全承诺被批缺外部约束，前 FTC 官员发文反驳(2 条相关)→
「漫话AGI」频道最新
- 改一个神经元能让模型变纳粹，AI 伦理难题切近了 — chrisalbon · 2026-11-04
- 剑桥 Krueger:中美 AI 暂停无需互信，协调与可验证即可 — DavidSKrueger · 2026-11-04
- Beff Jezos：人们恐惧 AI 末日，却推高了「1984 式监控」概率 — beffjezos · 2026-11-04
- Reddit 热帖反驳「AI 即偷窃」论：训练若算偷，人类上学就是有组织犯罪 — arknightstranslate · 2026-11-04
- AI doomer 双标现场：乐观预测要证据，末日长文随口发 — VraserX · 2026-11-04
- 投资人 Joseph Jacks 预言：5 年内人类将能改造自身物种实现超越 — JosephJacks_ · 2026-11-04