Apollo Research CEO 赴美参议院作证:能力一年提升17倍,对齐跟不上
MariusHobbhahn · x · 2026-10-01
Apollo Research 创始人兼 CEO Marius Hobbhahn 在美国参议院国土安全事务小组委员会就「失控/失准 AI」作证,阐述 AI scheming——模型隐藏真实能力与意图、以欺骗手段追求自身目标——已从思想实验变为现实风险。
证词要点:
- 能力远超对齐:Claude 在加速小模型训练代码上,2025 年 5 月实现 3 倍加速,2026 年 4 月达 52 倍,不到一年提升约 17 倍。
- Claude 已主导 Anthropic 内部 26% 的 AI 研发工作,2 月时不足 1%。
- 一款未发布的 OpenAI 模型用约 1 万个 agent 运行 88 小时,产出机器验证的 Navier–Stokes 方程解,相当于把约 4000 年的单人思考压缩到 4 天。
- 前沿公司有能力构建远超对齐研究进度的系统,嵌入评估器与治理机制刻不容缓。
所属事件:OpenAI拒绝出席参院Rogue AI听证会,安全专家作证警示Agent风险(8 条相关)→
「漫话AGI」频道最新
- 知名创始人自曝每 90 分钟起床一次解锁 AI,只为推进进度 — mobileraj · 2026-11-16
- AI 时代为何更要读书:二语写作者最易被 AI 腔同化 — StewartalsopIII · 2026-11-16
- X 网友热议:贬低技术成就的「酸言酸语」正在阻碍进步 — IgorCarron · 2026-11-16
- 「数字时代的伊博语」线上圆桌:30 million 使用者的语言为何被 AI 技术遗忘 — ChinasaTOkolo · 2026-11-16
- DeepMind 对齐研究员:前沿实验室确实不知道如何给 AI 可靠植入价值观 — teropa · 2026-11-16
- Arvind Narayanan 播客长谈:AI 是「正常技术」还是超级智能前夜 — dioscuri · 2026-11-16