论文提出递归自我改进 RSI 路线图:软件工程最快、医疗机器人受限
rohanpaul_ai · x · 2026-09-26
- arXiv 论文《The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement》系统讨论 AI 递归自我改进(RSI),提出 Headroom-Closed Index(HCI)用于揭示现有 LLM 的不足。
- 给出 RSI 发展路线图:从改进执行自主、改进策略自主、经验获取自主、环境适应自主,到递归元改进。
- 分场景考察进展:软件工程走得最远;科学发现、具身智能、医疗健康因反馈更难验证或风险更高而受限。
- 核心瓶颈在于:确保 AI 的自我改进在真正正确、安全之前不向后传播。论文结合行业实践与初步实证证据指出实现真正 RSI 的关键挑战。
所属事件:递归自我改进路线图论文：AI 自我提升分五级(2 条相关)→
「漫话AGI」频道最新
- ML 会议 Area Chair：审稿人成了 AI 评审 AI 论文的唯一人类 — murat_kocaoglu_ · 2026-11-11
- AI 深度用户呼吁:多讲「AI 提效」与「AI 垃圾产出」的区别 — Dimillian · 2026-11-11
- 手机本地跑出千禧年大奖难题解法的模型还要多久？ — paul_cal · 2026-11-11
- 顶级超预测员因 METR 报告将 ASI 预测提前 3 年至 2028 — ben_j_todd · 2026-11-11
- 盖茨称或先承受 AI 危害再应对，舆论担忧为政府管控铺路 — nikola_mr64990 · 2026-11-11
- 安全研究者 joshua_saxe:每周与 ChatGPT 语音长谈数小时,仍感觉在跟机器说话 — joshua_saxe · 2026-11-11