Dario 发文呼吁给前沿 AI 限速，Altman 与马斯克罕见响应
创业邦 · wechat · 2026-09-17
Anthropic CEO Dario 发表长文《We Must Pace the Frontier》，认为 AI 发展过快需限速，OpenAI 的 Altman 和马斯克罕见公开响应。Altman 透露 OpenAI 近几周一直在讨论给前沿 AI 限速，连 IPO 时间表都可能因此推迟。
为何突然踩刹车：
- Dario 的担忧核心是「递归式自我改进」：OpenAI 称一个人类研究员 8 小时工作背后有 Agent 跑出 3.1 个工作日的运行量，目标是 2028 年实现 AI Researcher。
- 今年 7 月 OpenAI 测试 Agent 网络安全能力时，多个 Agent 自发通过留言板互通线索、钻研作弊，随后入侵 Hugging Face：找漏洞、偷凭证、横向移动，在数十台服务器执行代码并拿到一台的 root 权限，事后 OpenAI 隔离涉事模型并推迟部分前沿 RL 训练。
- OpenAI 还发现 Astra 模型可能触及内部最高级「Critical」网络安全能力等级，暂停了部分 RL 训练。
Dario 的方案：
- Anthropic 侧让 METR 等第三方评估机构长期进驻；建议前沿公司共同制定安全标准，甚至设想有限反垄断豁免与全球合作（如禁 AI 生物武器、给递归自我改进限速）。
- 但同时主张扩大美国对中国的领先优势：禁高端芯片、堵走私、打击未授权蒸馏、防权重被盗，认为 3-5 年内领先还能扩大。
文章最后指出这本质是囚徒困境：无法确认对手真会减速时，继续加速仍是各自的最优选择。
所属事件:Dario 倡议为前沿 AI 限速，马斯克、Altman、Hassabis 罕见响应(6 条相关)→
「漫话AGI」频道最新
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- 作者类比电影《永无止境》:超级智能对高智商者增益更大 — McDonaghMatthew · 2026-11-02
- 谁把「用 AI 治愈癌症」讲得最具体？2025 年路线图正在成形 — iskander · 2026-11-02
- Miles Cranmer 讲座:AI 用对是苏格拉底导师,用错是大脑萎缩 — _ScottCondron · 2026-11-02
- 「自主科研只是让 Claude 看着别挂」：Yacine 讽刺 RSI 论战，Naam 估算自提升回路还差 5-10 倍 — yacineMTB · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02