前内部人士质疑 Anthropic 报告宣称「AI 安全技术问题已解决」

ZhongRuiqi · x · 2026-10-29

ZhongRuiqi 表示自己起初以为是假消息，点开报告后才发现属实：Anthropic 在最新报告中将「AI 安全的技术问题已解决」列为第一支柱。曾在 Anthropic 工作过、期待其真正解决 AI 安全的他对此深感失望。

报告第一页列举的进展包括：宪法式对齐与价值观训练、以可解释性方法审计模型「思维」、针对生物滥用等风险的分类器与对抗性测试护栏。作者指出，尽管报告第二页承认了这些方法的局限，但与第一支柱的措辞自相矛盾，认为 Anthropic 不应突出这种表述。