sceptic:OpenAI 无法在 Lean 里形式化「这个 AI 不会杀你」
zetalyrae · x · 2026-11-17
用户 @RatOrthodox 发表观点:OpenAI 不可能把「这个 AI 不会谋杀你」这样的安全承诺在 Lean 定理证明器中形式化;如果尝试,只会撞上 1999 年前后 GOFAI 对齐派早已讨论过的所有老问题——即行为规范难以被形式化为可验证的数学命题。
这是一条典型的 AI 安全观点争论:用形式化方法验证模型安全性的路线,可能重新陷入符号主义时代「无法把常识与价值写成公理」的困境。
所属事件:OpenAI AI 安全形式化承诺遭社区质疑(3 条相关)→
「漫话AGI」频道最新
- State of AI 2026 报告发布:前沿已成三大实验室竞局 — nathanbenaich · 2026-11-17
- 学者激辩:顶会投稿质量下滑或因高手撤出,而非新人涌入 — analisereal · 2026-11-17
- 一万个协作 agent 解出近乎无解的数学难题 — emmanuelvivier · 2026-11-17
- 观点:AI 的目标不该是提效 20%,而是终结“为钱工作”本身 — VraserX · 2026-11-17
- iamtrask:时间跨度衡量的是稳定性而非智能,别混淆 ASI 信号 — iamtrask · 2026-11-17
- 博主断言:白领「点按钮」型工作已被 AI 彻底终结 — moonsandhues · 2026-11-17