控制理论视角:智能递归自我改进存在速度上限
docmilanfar · x · 2026-09-13
Google 研究科学家 Milanfar 发文《Intelligence Has a Speed Limit》,用控制理论审视 AI 圈热议的递归自我改进(RSI):
- 核心论点:RSI 常被描述得近乎魔法——模型改自己、变更聪明、再改自己,直至超智能。但控制理论学者会指出这个预期天真在何处:任何自我改进回路都有最大安全速度,上限由「能多快生成可信证据证明改动确实是改进」决定。
- 理论依据:控制理论的小增益定理(small-gain theorem)指出,反馈回路保持稳定的条件是各环节增益的乘积小于 1;增益即单位时间内系统做出改动的幅度。验证速度跟不上改动幅度,回路就会失稳。
- 结论:自我改进不是不可能,而是被「可信验证的速度」限速——这是评估 AGI 加速论时被忽视的硬约束。
长文论证完整,作者来自前沿实验室,适合关注 RSI/超智能安全讨论的读者。
所属事件:Google研究员称智能有速度上限：RSI无法无限加速(5 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- Claude 已能用 2 万美元 token 做出专业软件,TAM 同步缩至 2 万 — bigblueboo · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31