Brundage 与 Delip Rao 激辩：AI 恶用预测与 scaling 论功过
前 OpenAI 政策负责人 Miles Brundage 与研究者 Delip Rao 围绕「当年能否预测今天的 AI」展开多轮交锋，争论核心是 2018 年报告的预测价值与 scaling laws 的历史功过。
已确认
- Brundage 回顾他与合著者发表《The Malicious Use of Artificial Intelligence》报告时，讨论的自动化黑客攻击、鱼叉式网络钓鱼、致命自主无人机等场景曾被嘲笑为「科幻」，如今已成现实。
- Delip Rao 连发多条帖子反驳，指 Brundage 回头宣称预测成功是「智识不诚实」，并以技术史论证：2017 年才有 transformer，2018 年的 decoder LLM 并不能自动 scale，指令对齐到 2020 年才成型，function calling 等关键能力也出现在 2020 年前后。以 2018 年的认知水平，宣称能预测今天 AI 的人是在瞎编。
- Rao 进一步主张 scaling 只是必要条件而非充分条件，OpenAI 对 scaling laws 的信念是错置的，其成功靠的是后来（多在 OpenAI 之外）发明的恰与「盲目 scaling」兼容的方法，带有运气成分。
- Brundage 回应澄清：2018 年报告谈的是基于概念验证和趋势判断「未来 5 年内可信」的可能性，并非长期点位预测，他也不认为当年全部判断都准确，并强调自己反对的是忽视恶用风险的立场。
为什么重要
- 这场争论折射出 AI 圈对「scaling 论功绩」的深层分歧：是规模化驱动了今天的 AI 能力，还是指令对齐、function calling 等方法突破才是关键，直接关系对未来的预测框架与资源投入方向。\- 对政策研究而言，「哪些恶用预测真的应验、以什么方式应验」影响 AI 安全与治理议题的可信度与优先级。
2026-09-07 ~ 2026-09-07 · 5 条相关
一手来源
- Brundage 回顾：当年被嘲「科幻」的 AI 恶用场景已成现实 — Miles_Brundage ·
- Delip Rao：Scaling 是必要条件而非充分条件，OpenAI 靠运气补齐 — deliprao ·
- Miles Brundage 回应：2018 报告谈的是 5 年内可能性，非长期预言 — Miles_Brundage ·
- 【源头】Brundage 回顾：当年被嘲「科幻」的 AI 恶用场景已成现实 — Miles_Brundage · 2026-09-07
- Delip Rao：以 2018 年的认知，宣称能预测今天 AI 的人是瞎编 — deliprao · 2026-09-07
- 【源头】Miles Brundage 回应：2018 报告谈的是 5 年内可能性，非长期预言 — Miles_Brundage · 2026-09-07
- Delip Rao 炮轰 Miles Brundage：回头宣称预测成功是智识不诚实 — deliprao · 2026-09-07
- 【源头】Delip Rao：Scaling 是必要条件而非充分条件，OpenAI 靠运气补齐 — deliprao · 2026-09-07