Princeton Narayanan ICML 演讲:RSI 不等于奇点,未来工作将剧变
random_walker · x · 2026-09-18
Princeton 的 Arvind Narayanan 公开了他在首尔 ICML 的主题演讲《What will be left for us to work on?》全文与幻灯片，核心论点有三：
- "AI 即普通技术"框架目前仍是对待 AI 影响的正确视角——除非出现递归自我改进（RSI）之类的未来不连续性。
- RSI 应被严肃对待，但≠奇点：他的团队正在做实证项目，评估 agent 做开放式 AI 研究的能力；但即便模型能自我改进，也并不意味着超级智能、劳动力大规模替代或末日。他引用 Ramez 的观点：AI 改进普遍受幂律/对数尺度收益递减约束，RSI 循环每次迭代带来的相对提升会递减，系统最终回落到原有改进速率。
- 不存在某个实验室里程碑会突然让所有人失业，但未来工作将发生剧变，需要大量适应；他提出人机"共超级智能"（co-superintelligence）愿景。
他领导团队研究 AI agent 评测的科学方法，试图超越"基准分数上升=即将取代所有工作"的公众误读。
「漫话AGI」频道最新
- AI 线性外推派自述：从被嘲到被指数增长验证 — ChrisGPT · 2026-09-18
- Google 安全工程师：AI 不是取代黑客，而是解放黑客 — moyix · 2026-09-18
- 「失控 AI 必然靠黑客和盗窃求生」遭反驳:科幻场景并非必然 — dbasch · 2026-09-18
- Zvi 讽刺安全质疑:「没人能举出 AI 杀人实例」恰是问题所在 — TheZvi · 2026-09-18
- 吴恩达：AI 导致人类灭绝的担忧是“科幻小说” — Polymarket · 2026-09-18
- p(doom) 是伪概念?书摘指概率赋值对 AI 灭世无预测力 — banteg · 2026-09-18