Dario Amodei 发文呼吁给 AI 前沿降速,Anthropic 率先开放第三方安全评估
paulnovosad · x · 2026-09-12
Anthropic CEO Dario Amodei 发布新文章《We Must Pace the Frontier》，主张 AI 行业应当放慢前沿模型的推进速度，并提出三部分的具体计划。
作为第一步，Anthropic 单方面承诺：向第三方评估机构提供永久性的、员工级别的模型访问权限，使其能够验证公司安全措施的执行情况、报告安全事件，并在训练过程中评估模型的对齐状态。
文章认为在能力快速提升的当下， pacing（节奏控制）是行业可以也应该主动采取的策略，而非等待监管强制。这是头部 AI 公司首次就「主动降速」给出可操作的承诺框架，预计将引发行业与安全圈的广泛讨论。
所属事件:Dario Amodei 发文呼吁前沿 AI 集体减速(203 条相关)→
「漫话AGI」频道最新
- StudentBench 研究：AI 家教 GRE 提分追平人类，成本仅 1/918 — gharik · 2026-10-31
- Box CEO：AI 进步曲线近乎垂直，前沿与所有人的差距还在拉大 — rohanpaul_ai · 2026-10-31
- LLM不会模型坍缩,人类文化与灵魂或许会 — generativist · 2026-10-31
- Nina Schick:谁来建造智能、智能如何分配,是我们这代人最关键的问题 — NinaDSchick · 2026-10-31
- Martin Casado:AI 完成 80% 已足够惊艳,没人愿做剩下的 20% — martin_casado · 2026-10-31
- 「人人都得到廉价智能」:一条面包配料表道破 AI 的真实成色 — jsuarez · 2026-10-31