Dario Amodei 发文呼吁给 AI 前沿降速,Anthropic 率先开放第三方安全评估
paulnovosad · x · 2026-09-12
Anthropic CEO Dario Amodei 发布新文章《We Must Pace the Frontier》，主张 AI 行业应当放慢前沿模型的推进速度，并提出三部分的具体计划。
作为第一步，Anthropic 单方面承诺：向第三方评估机构提供永久性的、员工级别的模型访问权限，使其能够验证公司安全措施的执行情况、报告安全事件，并在训练过程中评估模型的对齐状态。
文章认为在能力快速提升的当下， pacing（节奏控制）是行业可以也应该主动采取的策略，而非等待监管强制。这是头部 AI 公司首次就「主动降速」给出可操作的承诺框架，预计将引发行业与安全圈的广泛讨论。
所属事件:Anthropic CEO 发长文呼吁全行业放慢前沿 AI(30 条相关)→
「漫话AGI」频道最新
- OpenAI、Anthropic 研究员加码呼吁放慢 AI,「灭绝」警告升温 — ThereWas · 2026-09-12
- Dario Amodei 呼吁 AI 公司放慢开发节奏以管控风险 — connoraxiotes · 2026-09-12
- 如果物质完全无忧且无所事事，周二你会伸手拿什么？ — YogeshMalik · 2026-09-12
- 哲学家设问:自动化争论的真正分歧在「什么算有价值」 — sethlazar · 2026-09-12
- AI Agent 仍是实验:先上线再谈安全,代价正转嫁给用户 — gerardsans · 2026-09-12
- 网友附和 Dario：超人类编码模型将击溃现有互联网安全 — Justin_Halford_ · 2026-09-12