RSI 路线图论文:AI 自我提升分五级,完整递归自改进尚未到来
rohanpaul_ai · x · 2026-09-26
一篇关于递归自我改进(RSI, Recursive Self-Improvement)的综述路线图论文梳理了 AI 自我提升的五个等级:从执行人类设计的改进,到 AI 逐步接管评估器与研究方向选择,最高一级是改进「产生未来改进的机制」,使改进过程真正递归化。
核心结论
- 现在所称的「自我改进 AI」大多只自动化了改进流程的一部分;真正的 RSI 要求 AI 持续改进决定未来改进如何被发现、测试与保留的机制本身。
- L1-L3 有广泛证据;基于经验的持续学习与部署后适应(L4)更依赖具体领域;端到端的 L5 证据仍局限于受限原型。
- 领域进展不均:知识与推理接近天花板,软件工程最接近 RSI;科学、机器人、医疗因验证反馈难、风险高而受限。
- 共同瓶颈:如何确保 AI 的自我改进在被采纳前是正确且安全的,人类仍需固定总体目标与安全边界。
「漫话AGI」频道最新
- 答案越来越廉价,会提问正成为稀缺技能 — r0ck3t23 · 2026-09-26
- Gallup 调查：93% 中国受访者认为 AI 利大于弊，美国仅 36% — robleclerc · 2026-09-26
- 论文提出递归自我改进 RSI 路线图:软件工程最快、医疗机器人受限 — rohanpaul_ai · 2026-09-26
- 前 OpenAI 政策高管质疑：换作 Claude 白宫反应会否不同 — Miles_Brundage · 2026-09-26
- 会议录音喂 AI 的协作写作流程 — kfountou · 2026-09-26
- 旧文翻车:ARC Prize 曾坚称普通深度学习不够,需程序合成,随后 o3 出现 — teortaxesTex · 2026-09-26