安全研究者警告 AI 协调窗口或于 2028 年关闭

AI 安全研究者 Jeff Ladish 就递归自我改进（RSI）对齐难度的讨论发文警告：在 RSI 真正可行之前，人类存在一个关键的 AI 协调窗口，一旦 RSI 可行，该窗口将很快关闭。按 OpenAI 相关预测的时间线，这一窗口预计约在 2028 年关闭。他同时回应 merettm 的观点，承认双方在「通过 RSI 对齐智能体的难度」上存在分歧，他认为该难度被高估。

2026-09-07 ~ 2026-09-07 · 2 条相关