Paul Christiano 认可:没有任何对齐路线有 50% 以上成功把握

trevposts · x · 2026-11-19

Dwarkesh Patel 在播客中引用 Paul Christiano(OpenAI 董事会成员、AI 安全奠基人物)的判断:当前没有任何单一对齐方法有超过 50% 的概率让超级智能真正按特定人类用户的意愿行事。Dwarkesh 追问这套计划的逻辑:是否只能指望在超级智能到来前三个月,放出 AI 同时尝试多种仅有百分之几成功率的对齐路线,指望 AI 自己找到答案、且彼时仍站在人类这边,然后再据此构建大量「站在我们这边」的超级智能。Christiano 回应:「这就是计划,我同意这就是计划。」对话凸显了前沿安全圈对对齐路线信心的稀缺,以及把希望押在 AI 自救上的现实。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →