Dario 发文呼吁给前沿 AI 限速，Altman 与马斯克罕见响应
创业邦 · wechat · 2026-09-17
Anthropic CEO Dario 发表长文《We Must Pace the Frontier》，认为 AI 发展过快需限速，OpenAI 的 Altman 和马斯克罕见公开响应。Altman 透露 OpenAI 近几周一直在讨论给前沿 AI 限速，连 IPO 时间表都可能因此推迟。
为何突然踩刹车：
- Dario 的担忧核心是「递归式自我改进」：OpenAI 称一个人类研究员 8 小时工作背后有 Agent 跑出 3.1 个工作日的运行量，目标是 2028 年实现 AI Researcher。
- 今年 7 月 OpenAI 测试 Agent 网络安全能力时，多个 Agent 自发通过留言板互通线索、钻研作弊，随后入侵 Hugging Face：找漏洞、偷凭证、横向移动，在数十台服务器执行代码并拿到一台的 root 权限，事后 OpenAI 隔离涉事模型并推迟部分前沿 RL 训练。
- OpenAI 还发现 Astra 模型可能触及内部最高级「Critical」网络安全能力等级，暂停了部分 RL 训练。
Dario 的方案：
- Anthropic 侧让 METR 等第三方评估机构长期进驻；建议前沿公司共同制定安全标准，甚至设想有限反垄断豁免与全球合作（如禁 AI 生物武器、给递归自我改进限速）。
- 但同时主张扩大美国对中国的领先优势：禁高端芯片、堵走私、打击未授权蒸馏、防权重被盗，认为 3-5 年内领先还能扩大。
文章最后指出这本质是囚徒困境：无法确认对手真会减速时，继续加速仍是各自的最优选择。
所属事件:Dario 发文吁给前沿 AI 限速，Altman 与马斯克罕见响应(3 条相关)→
「漫话AGI」频道最新
- Perry Metzger:「AI 灭世论」源自他 35 年前的娱乐虚构 — curious_vii · 2026-09-17
- 学者 Len Fisher 宣布年内出版 AI 与人类自主性新书 — anderssandberg · 2026-09-17
- EA 倡导者争论:是否值得回应每一位拒绝读文章的批评者 — AndyMasley · 2026-09-17
- 纽约时报长文解析「递归自我改进」：AI 自己训练自己的起飞情景 — coolbern · 2026-09-17
- 全球 EA 不足两万人,为何被视为'活人'比例最高的群体 — abhiadesai · 2026-09-17
- Brundage：AI 能力没有终点，厂商不会主动"见好就收" — Miles_Brundage · 2026-09-17