Narayanan:效率飞轮加速,实验室或正奔向「递归自我灭绝」
random_walker · x · 2026-11-21
普林斯顿研究员 Arvind Narayanan 提出:AI 实验室竞逐的「递归自我改进」(RSI)实际上可能通向其商业模式的「递归自我灭绝」。
核心论点:人们混淆了两个不同的改进飞轮,它们终将分离——
- 效率改进飞轮:提升既有能力的成本效率是高度可验证的任务。过去几年单位能力的成本每年至少下降 10 倍,且随着实验室大量用 AI 做 AI 研究,这一趋势还会持续甚至加速数年。
- 更广义的改进飞轮:真正扩展能力边界需要越来越多的算力、人才、数据和真实世界反馈,不会因效率提升而自动兑现。
评论者 binarybits 引用并认同这一区分:效率循环会加速,但广义循环另需巨额投入。这是对 AGI 叙事中「可验证任务进展 ≈ 全面超越」假设的有力反驳。
所属事件:普林斯顿研究员:AI实验室追逐递归自我改进或致商业自我灭绝(2 条相关)→
「漫话AGI」频道最新
- 回望苏联计划经济:一场算力与延迟都不够的赛博辛纳奇亚 — l4rz · 2026-11-21
- 博主重提旧帖预测:AI 2026 攻克数学、2030 攻克衰老 — rand_longevity · 2026-11-21
- 物理学者发问:Lean 形式化证明为何比期刊论文更遭嫌弃 — IAmTimNguyen · 2026-11-21
- 平克转发:担心「后稀缺」是知识分子才有的焦虑 — sapinker · 2026-11-21
- Cranz:我们进入了「真不必人类可懂」的时代 — c_valenzuelab · 2026-11-21
- Model ML 融资 2.5 亿美元,自动化初级投行分析师工作 — alvelda · 2026-11-21