Aashish Reddy 长文剖析「递归自我改进」概念史,Yudkowsky 模型已过时
gleech · x · 2026-11-16
Cosmos Institute 刊发 Aashish Reddy 长文《Recursive, Self, Improvement》,梳理「智能爆炸/递归自我改进(RSI)」的概念结构,gleech 评价其对 15 年前旧辩论的细读与评分是一大胜利,且没有漫画化 Yudkowsky 等人。
要点:
- 概念源头:I.J. Good 1965 年提出超智能机器可设计更好机器,引发「智能爆炸」,前提是机器足够温顺可被控制
- 现状:AI 已能辅助 AI 研究者写代码、做实验,系统日益自主,被视作「AI 训练下一代 AI」,业内普遍感觉已处在或临近 RSI 阶段
- 作者主张:Yudkowsky 原始的 FOOM 式图景(智能提升自身认知机制再迭代)已被 AI 进展超越,但相关概念包袱仍在,例如对突然 FOOM 的期待;文章不做量化预测,而是厘清 RSI 的概念结构
gleech 补充:Reddy 反对一种经典的非连续性威胁论,但对 Yudkowsky 等的呈现公允,「你可以直接去读那 50 万字的原始讨论」。
「漫话AGI」频道最新
- 观点:AI 淘汰的是繁琐杂务,而非你热爱的工作 — kevinsurace · 2026-11-16
- r/LocalLLaMA 控诉大厂:OpenAI 与微软被指未署名挪用社区创意 — depressedclassical · 2026-11-16
- Anthropic研究:分析师86%的分析决策跟随AI倾向 — emmanuelvivier · 2026-11-16
- Boaz Barak 力挺离职发声:内部泄密动摇安全团队信任风险更大 — tszzl · 2026-11-16
- 评论者称 Anthropic 真实目标是「盒中之神统治的乌托邦」 — zetalyrae · 2026-11-16
- Hugging Face CEO 警告 AI 权力集中,引 Anthropic IPO 造富分析 — shangbinfeng · 2026-11-16