OpenAI AI 安全形式化承诺遭社区质疑

针对 OpenAI「The Plan」中让 agent 形式化证明安全性质的路线,社区掀起争论:有人指出「这个 AI 不会杀你」这类安全承诺根本无法在 Lean 定理证明器中形式化,尝试会撞上 1999 年前后的理论困境;也有人质疑在连需要证明哪些定理都不清楚的情况下,该计划注定难以奏效。另有用户讽刺 OpenAI 与 Anthropic 的安全叙事各走极端。

2026-11-17 ~ 2026-11-17 · 3 条相关