David Sacks:把 Claude 当人对待,是对齐领域十年毫无建树的原因

AlexTensor · x · 2026-10-10

David Sacks(白宫 AI 与加密事务主管)称,AI 对齐领域过去五到十年「惨败」——没有产出任何有实际价值的东西——根源在于 Anthropic 把 Claude 当作有意识的「道德主体」来对待。

他的理论:对齐工作把任务过度复杂化了,试图用一份 80 页的成文伦理体系去训练模型行为,而不是用简单的规则清单(比如「遵守法律」「只要不违法就照用户说的做」)。在他看来对齐应该做的是后者,而非向模型灌输一套伦理系统。这一言论延续了他本周对 Anthropic 的系列批评。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →