Ajeya Cotra:关于 AI 风险的分歧,本质是「起飞速度」之争
SamuelAlbanie · x · 2026-10-22
DeepMind 研究员 Samuel Albanie 引用 Ajeya Cotra 的博客文章《Takeoff speeds rule everything around me》,并评论称:朴素外推在一些领域(如 scaling laws、任务时长)非常准,在另一些领域(网络漏洞、高严重度 agent 事故)却完全失效——大多数关于 AI 进展的分歧都源于此。
文章核心观点:
- 十年前 AI 风险辩论聚焦 AGI 时间表,如今连对 x-risk 较怀疑的人也开始接受 5-10 年的极短时间线,但对风险等级的分歧依然巨大。
- 作者认为这种分歧其实仍主要是「时间表」问题:不担忧者往往同时持有「AGI 很快」与「AI 改造现实世界很慢」两个判断,即认为 takeoff 速度很慢。
- 经典的 takeoff 定义(AGI→超级智能所需时间)概念模糊,作者主张用外部世界结果来操作化,关键标尺是硬科技(硬件、电池、材料、工业化学、机器人、航天)的进展速度。
- 思想实验:假设 2028 年出现能自动化这些领域全部智力工作的 AI,这些领域每个日历年能取得多少「旧人类速度下的进展年」?配图展示 fast takeoff(约 2029 年起飞)、slow takeoff(约 2032 年起飞)与 no takeoff 三种情景下物理技术水平曲线的巨大分化。
所属事件:METR 数据引热议：AI 能力外推时而灵验时而失灵(2 条相关)→
「漫话AGI」频道最新
- 高性能组织招聘逻辑生变：AI 智能体时代从量转向质 — andreisavu · 2026-10-22
- 摄影师感叹：AI 让曾经高门槛的创作人人可玩，但自律成了新挑战 — pixlpa · 2026-10-22
- Grady Booch 炮轰 Dario 与 Sam：AGI 叙事非理性且不可信 — Grady_Booch · 2026-10-22
- Karpathy 式吐槽：别急着说 LLM 没用，先砸万亿 token 试试 — iruletheworldmo · 2026-10-22
- 法律AI评测没有单元测试，Crosby 用模型预测律师是否采纳 AI 修改 — graceisford · 2026-10-22
- BaseLabs 开源 mammoth-1/elephant-1：全球最佳决策模型与 15B 以下最强 — saranormous · 2026-10-22