Rohit Krishnan 提出渐进式自我改进 SSI:每次升级先分析再用

geoffreyirving · x · 2026-11-19

Rohit Krishnan 提出用 SSI(Staged Self-Improvement,分阶段自我改进)替代 RSI(递归自我改进):由于无法预知递归改进可能带来的危险后果,更安全的做法是每次只改进一轮,分析结果、投入使用后再进行下一轮。他认为这是最安全也最聪明的路线。

DeepMind 安全研究员 Geoffrey Irving 对此表示感谢与认可。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →