Dario 发文呼吁给 AI 降速:Anthropic 承诺第三方评估者永久员工级访问权
scottleibrand · x · 2026-09-13
Anthropic CEO Dario Amodei 发布新文章《We Must Pace the Frontier》,主张 AI 行业应主动放慢前沿能力推进速度,并提出三步计划。
- 首个承诺已落地:Anthropic 单方面承诺向第三方评估者提供永久、员工级的系统访问权限,使其能验证安全措施执行情况、报告安全事件、并在训练过程中评估模型对齐状态。
- 核心论点:文章先讨论 AI 的潜在收益再承认风险,认为这是向公众呈现技术的正确方式;同时强调降速不应导致民主国家在对华 AI 竞争中失去领先——「pacing the frontier」的限度由美国公司相对威权政体的领先幅度决定。
- 关键引语:「我们必须放慢提升 AI 模型能力的速度。进展仍会显得很快,而我们必须明智地利用争取到的时间。」
AI 研究者 deredleritt3r 转发评价这是自《Machines of Loving Grace》以来最喜欢的 Dario 文章,并特别赞赏「在 Anthropic 内部嵌入第三方评估者」的提案,认为其他前沿实验室也应认真考虑效仿;她还指出这是首个明确将「降速」与「不能让给中国领先地位」绑定表述的提案。
所属事件:Anthropic CEO 发长文呼吁全行业放慢前沿 AI(54 条相关)→
「漫话AGI」频道最新
- 「布鲁克林计划」引热议:被称为我们这代人的曼哈顿工程 — MaliciousMussel · 2026-09-13
- 马斯克、Sam、Dario 短时间内齐呼给前沿 AI 限速 — S_OhEigeartaigh · 2026-09-13
- 网友断言开源已逼近前沿：GLM、Kimi、DeepSeek 将追平 OpenAI 与 Anthropic — Fluffy-Ad-889 · 2026-09-13
- Dario 提议美中为递归式 AI 自我改进设「限速」,类比冷战核军控 — Polymarket · 2026-09-13
- Reddit 网民提议：OpenAI、Anthropic、xAI、DeepMind 应合并为一家公司 — Over-Landscape-5892 · 2026-09-13
- 用 AI 监督 AI：治理学者提出「不可触碰」调查员模型构想 — sethlazar · 2026-09-13