专家警告：AI 能力飞速提升，留给解决对齐问题的时间已不多

sjgadler · x · 2026-08-08

Chris Painter 在 Hard Fork 播客中讨论了 AI 对齐问题。他指出，目前人们往往将 AI 视作初级虚拟员工，因此觉得对齐失败的代价较小。但随着 AI 能力迅速提升并开始接管世界的许多部分，对齐失败的代价将变得极其巨大。\n\n他警告称，在激烈的竞争竞赛中，我们可能会发现自己陷入了进退两难的境地：尽管到处都是模型错位的证据，但为了不被淘汰，依然被迫不断推出更先进的模型。