Anders Sandberg：一旦确认 AI 研究提速翻倍，可能已逼近起飞点
anderssandberg · x · 2026-11-08
牛津哲学家 Anders Sandberg 就 METR 关于 AI 自我改进（RSI）的报告发起讨论。他对「AI 实验室研究速度确实在翻倍」并未强烈更新判断，但认为这本身就不可掉以轻心。
- 用 Bostrom 2014 年的 I'=(c+I)I 起飞模型演示：人力+AI 算力具备规模回报，会导致有限时间奇点；能力每多翻一倍，距奇点只剩半个初始倍增时间（约一年）
- 关键论点：在加速情景下，我们估计的是「二阶导数」——数据中的高斯噪声会让变化率在 t=2 前看起来几乎不变，导致更新判断的时机非常滞后
- 现实中基准测试更稀疏、更割裂且质量存疑，使得对增长率的更新更罕见
- 结论：等到一切显而易见时，留给行动的时间可能很少甚至没有。他自称仍是 ASI 长期线派，但「长期」已从几十年缩到 10 年以上，且不确定性下的理性策略是为更快的情景做对冲
「漫话AGI」频道最新
- 前沿 AI 实验室的分裂日常：一半员工根本不想造出 AGI — mark_k · 2026-11-08
- tszzl 发梗叹服 teortaxes 的 scaling 预测再次应验 — tszzl · 2026-11-08
- kuchaev：ChatGPT、o1、Agent 都不是纯靠 scaling，靠的是训练栈创新 — kuchaev · 2026-11-08
- 「用下一个十年对抗衰老」：AI 圈大佬押注 AI 攻克疾病与死亡 — DeryaTR_ · 2026-11-08
- AI 智能体团队接单做 3D 模型，预测自主 AI 收钱将成常态 — repligate · 2026-11-08
- 研究者断言：论文质量下滑，研究博客与个人项目质量暴涨 — k7agar · 2026-11-08