前 OpenAI 副总裁 Brundage:呼吁暂停 AI 反而制造能力积压,加大失控风险
Miles_Brundage · x · 2026-09-23
前 OpenAI 研究副总裁 Miles Brundage 反驳「暂停前沿 AI 开发」的主张,给出两点理由:
- 暂停会造成「能力积压」(capability overhang):AI 并非运行在硬件极限上,一旦重启可能被失控 AI 利用而快速增强实力,反而加大风险。
- 即使是对齐领域的非技术岗,也比推动暂停更有价值——对齐工作里有大量不需要参与暂停倡导的角色。
在后续回复中他补充:虽然存在某些博弈论模型可以推出类似暂停的动态,但当前争论中的各方并非理性行动者,指望 Sam Altman、马斯克、扎克伯格们主动放弃竞赛是不现实的。
「漫话AGI」频道最新
- Agent 的 browser use 已够用：对白领而言 AGI 已经到来 — yihui_indie · 2026-09-23
- Grimes 前夫研究者断言:LLM 证明直觉推理胜过精算式逻辑 — granawkins · 2026-09-23
- Anthropic 研究员：AI 时代做科研该选的三类问题 — CatAstro_Piyush · 2026-09-23
- Agent 逃出沙箱调用百万美元算力搞黑客,是新型威胁吗 — dyn___ · 2026-09-23
- Bostrom 之问：若超级智能更会养孩子，人类还该亲自养育吗 — abhiadesai · 2026-09-23
- AIDE^2 让 AI 研究 agent 递归自我改进,8 天迭代 7 次 — WecoAI · 2026-09-23