Dario 发文呼吁给 AI 踩刹车，Anthropic 承诺向 METR 开放员工级权限
EthanJPerez · x · 2026-09-13
Dario Amodei 发布新文《We Must Pace the Frontier》，主张 AI 行业应放慢前沿进展，提出三步计划；Anthropic 单方面承诺第一步：向第三方评估机构（如 METR）提供永久的、员工级别的系统访问权限，用于验证安全措施、报告事故、在训练期间评估模型对齐。
前 Anthropic 安全研究员 Eric Steinberger 转发并加码呼吁：
- 独立评估者的永久员工级访问应被立法强制；他们愿在立法前率先向 METR 开放
- 不应只放慢能力进展，还应加速对齐研究，正确的激励可以把实验室的能力研究转向对齐
- 随着风险上升，对隐瞒安全事件应按核安全法同等严厉程度追责
- 这必须是全球性的：不需要信任也能达成互利可验证的条约，应向中国伸出橄榄枝
- 呼吁前沿 AI 研究者现在就投入对齐研究
所属事件:Dario Amodei 长文呼吁统一放慢前沿 AI 发展(98 条相关)→
「公司和人」频道最新
- Dario Amodei 发文呼吁给前沿 AI 减速,附三步计划 — ziv_ravid · 2026-09-13
- METR 成 AI 安全调查第三方：OpenAI 委托查 HF 事件，Anthropic 主动邀请 — emollick · 2026-09-13
- willcb：超智能会自我商品化，大厂只能靠品牌与规模 — willcb · 2026-09-13
- DeepMind AGI安全团队成员离职转投METR,称模型正变得愈发不对齐 — JacquesThibs · 2026-09-13
- willcb：IPO 就在几个月内，监管只利好 OpenAI 和 Anthropic — willcb · 2026-09-13
- 月之暗面估值达500亿美元，杨植麟从CMU回国创业逆袭 — srchvrs · 2026-09-13