Toby Ord 与 Tom Davidson 激辩:智能爆炸下研发支出曲线会不会断
tobyordoxford · x · 2026-11-10
AI 存在风险研究者 Toby Ord 与 Tom Davidson 在 X 上讨论智能爆炸模型中的关键曲线:AECI(有效认知投入)趋向无穷时,研发支出(主要指算力美元)必须同步趋向无穷,否则曲线断裂。
- Davidson 指出这取决于如何操作化定义「研发支出」:若把「AI 做 AI 研究的质量提升」也算作支出增加,曲线可以维持、支出趋向无穷;若不算,则曲线会断——因为你能在研发支出不变的情况下大幅增加认知投入。
- Ord 回应:按实际算力美元支出来算,有趣的是这条曲线至今尚未断裂,尽管有人声称 AI 研究速度翻倍以上带来了 AI 进展加速。
- Ord 补充:如果曲线断裂是爆炸发生的前提,那么监控这条曲线或许能提供有用的先行信号。
所属事件:Toby Ord 与 Tom Davidson 激辩智能爆炸下研发支出曲线是否会断裂(4 条相关)→
「漫话AGI」频道最新
- 云数仓内嵌 AI 正在消解数据工程师岗位 — jonathanmendez · 2026-11-10
- 微软 AI 负责人苏莱曼转发《Humanist Review》：Acemoglu 等谈 AI 与人的选择 — mustafasuleyman · 2026-11-10
- Mustafa Suleyman 将在 SF 论战「AI 能否带来富足」,11月18日举行 — mustafasuleyman · 2026-11-10
- Scott Alexander 重提旧文:值得做的事就值得用编造的统计数据做 — NathanpmYoung · 2026-11-10
- 单任务提速明显,项目层面收益存疑:AI 效率的隐藏损耗 — FulcraDynamics · 2026-11-10
- 从惊叹到嫌弃只用几天:用户对 AI 视频审美疲劳速度惊人 — jaivin · 2026-11-10