Rohit Krishnan 提出渐进式自我改进 SSI:每次升级先分析再用
geoffreyirving · x · 2026-11-19
Rohit Krishnan 提出用 SSI(Staged Self-Improvement,分阶段自我改进)替代 RSI(递归自我改进):由于无法预知递归改进可能带来的危险后果,更安全的做法是每次只改进一轮,分析结果、投入使用后再进行下一轮。他认为这是最安全也最聪明的路线。
DeepMind 安全研究员 Geoffrey Irving 对此表示感谢与认可。
「漫话AGI」频道最新
- Amodei 建议高中毕业生学用 AI:一半入门级白领岗位 1-5 年内受冲击 — alvelda · 2026-11-19
- CVPR 作者算账:用 LLM 润色论文叙事比手写更贵 — AntonObukhov1 · 2026-11-19
- 「别把模仿当智能」:LLM 智能维度之争再起 — AlexTensor · 2026-11-19
- austinhuang:AI 未来畅想文的通病是从失真的当下叙事出发 — austinvhuang · 2026-11-19
- METR 报告后该不该更新 AGI 时间表?两派观点交锋 — sayashk · 2026-11-19
- OpenAI研究员批'知识权威':许多受尊敬学者其实并不连贯 — repligate · 2026-11-19