sceptic:OpenAI 无法在 Lean 里形式化「这个 AI 不会杀你」

zetalyrae · x · 2026-11-17

用户 @RatOrthodox 发表观点:OpenAI 不可能把「这个 AI 不会谋杀你」这样的安全承诺在 Lean 定理证明器中形式化;如果尝试,只会撞上 1999 年前后 GOFAI 对齐派早已讨论过的所有老问题——即行为规范难以被形式化为可验证的数学命题。

这是一条典型的 AI 安全观点争论:用形式化方法验证模型安全性的路线,可能重新陷入符号主义时代「无法把常识与价值写成公理」的困境。

所属事件:OpenAI AI 安全形式化承诺遭社区质疑(3 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →