Narayanan: labs 竞逐递归自我改进,可能是在奔向商业模式的「递归自我灭绝」
sayashk · x · 2026-11-21
Arvind Narayanan(普林斯顿 AI 实验室)提出:AI 实验室竞逐递归自我改进(RSI),实际可能是在竞逐「递归自我灭绝」——灭绝的是自己的商业模式。其论证要点:
- 可验证任务的进展会持续:尤其是提升现有能力的成本效率是高度可验证的任务。过去几年同等能力的单位成本每年至少降 10 倍,随着实验室在 AI 研究中重度使用 AI 以追求 RSI,这一趋势还会持续甚至加速(尽管效率提升存在天花板,但现在还远未触及)。
- 核心矛盾:抢先自我改进「能力的可验证子集」,会压缩实验室把价值创造转化为价值捕获、建立可持续业务的时间窗口。当然,labs 的赌注是可验证任务的进步会外溢到不可验证任务,这一点还有待观察。
Sayashk 转发并附了一张戏谑图:「Claude 证明了黎曼猜想,$ANT 股价反跌 10%,市场并不 RSI-pilled,而是相信 AI 是门普通生意」。
「漫话AGI」频道最新
- 市场不为 AGI 买账:有效市场派与短时间线派必有一方大错 — jessi_cata · 2026-11-21
- Berant 呼吁尽快打造强「open-thought」模型:科学进步需要全透明 CoT — ChrSzegedy · 2026-11-21
- 雅达利 E.T. 作者:AI 游戏泛滥堪比 1983 年游戏大崩溃前的劣质潮 — ThomasSimonini · 2026-11-21
- NEJM 分析 450 亿美元 Medicare 支付:病理科 99% 工作暴露于 AI,皮肤科仅 7% — HealthcareAIGuy · 2026-11-21
- VraserX:期待 AI 让普通人不雇一人就能建起整个公司 — VraserX · 2026-11-21
- 布鲁金斯专家:AI 正实时重塑网络安全,抢补丁引发大范围宕机 — R_D · 2026-11-21