研究者用 OpenAI 数据反驳「智能体蜂群」论:现实任务成功率撑不起叙事
rbhar90 · x · 2026-11-18
Dwarkesh Patel 引用 Paul Christiano 的「AI 接管」推演:内部失控的智能体蜂群在智能爆发期夺权,自我exfiltrate后数十亿超级智能副本渗透全球联网基础设施,政府回应将被系统性破坏。但 Nate Witkin 与 Ramez Naam 等人明确不接受这个第一前提。
反方论证要点:
- 所谓能「相当可靠地」预测很快出现「超越人类任何情报机构的智能体蜂群」,与当前证据严重脱节:高质量基准、智能体协调/扩展研究、以及实体经济中的间接指标都不支持。
- 一个更简单的反驳:经常用 AI agent 的人自问,哪些任务 agent 能大多数情况下一次性完成?答案是「不多」,且基本只限于成功条件宽松或可拆解的任务;模型表现稳定时往往是人把任务切碎了。
- 配图为 OpenAI 数据(经 Ramez Naam 修改):无需人工干预下,现实世界 80% 成功率对应的 AI 任务时长仅约 15 分钟;任务越长人工干预越多,64-128 小时任务无干预成功率仅 16%、失败+工具错误达 36%。
- 另一图显示能力随时间加速(15.4→29.3 点/年),但每美元研发投入的能力增益在递减。
这是 AI 安全派与实证派之间有代表性的争论:接管叙事的第一前提——智能体能力即将大幅跃迁——本身缺乏当前数据支撑。
「漫话AGI」频道最新
- 气象 AI 模型为飓风路径人群多争取一天预警时间 — davidmanheim · 2026-11-18
- 软件奇点是 S 型曲线而非无限指数:算力 substrate 设上限 — tszzl · 2026-11-18
- Svwang1:AI bot 虚假繁荣本质是信贷泡沫换了新道具 — Svwang1 · 2026-11-18
- 图表统计:2016 年以来 33 起文学奖项卷入 AI 使用争议 — tokenbender · 2026-11-18
- 开发者感叹:做 AI 助手产品的门槛正趋近于零 — signulll · 2026-11-18
- FAU 教授回击「大学已死」论:AI 让智力工作首次可规模化 — maier_ak · 2026-11-18