OpenAI AI 安全形式化承诺遭社区质疑
针对 OpenAI「The Plan」中让 agent 形式化证明安全性质的路线,社区掀起争论:有人指出「这个 AI 不会杀你」这类安全承诺根本无法在 Lean 定理证明器中形式化,尝试会撞上 1999 年前后的理论困境;也有人质疑在连需要证明哪些定理都不清楚的情况下,该计划注定难以奏效。另有用户讽刺 OpenAI 与 Anthropic 的安全叙事各走极端。
2026-11-17 ~ 2026-11-17 · 3 条相关
- OpenAI 是否打算让 agent 形式化证明安全性质?引发可信性争论 — zetalyrae · 2026-11-17
- sceptic:OpenAI 无法在 Lean 里形式化「这个 AI 不会杀你」 — zetalyrae · 2026-11-17
- zetalyrae 讽刺 OpenAI 与 Anthropic 的安全叙事各走极端 — zetalyrae · 2026-11-17