Dario 发文呼吁放慢前沿 AI,Anthropic 承诺给第三方常驻评估权限
niloofar_mire · x · 2026-09-13
- Dario Amodei 发表新文《We Must Pace the Frontier》:提出 AI 行业应放慢前沿推进的三步计划,Anthropic 单方面承诺第一步——向第三方评估机构提供永久性的、员工级别的系统访问权限,以便核验安全措施执行、报告事故、在训练期间评估模型对齐。
- 配套基础设施进展:iamtrask 指出外部监督的主要瓶颈是「访问基础设施」,并介绍了 OpenMined 与 Google DeepMind 的最新合作——全球首个针对专有前沿模型的双盲评估试点:外部评估在密码学隔离环境中运行,模型事前无法接触机密基准题,防止 benchmark 污染,合作伙伴包括新加坡 AI 安全研究院、OpenMined、AVERI、MLCommons,受测对象为 Gemini Flash Lite。
- OpenMined 正为此方向招聘。
所属事件:Dario Amodei 发文呼吁前沿 AI 集体减速(99 条相关)→
「公司和人」频道最新
- Martin Casado 引亚当·斯密名言暗讽 AI 实验室串谋抬价 — illscience · 2026-09-13
- 前剑桥教授 Krueger:反对苏纳克「发布前自愿测试」立场 — DavidSKrueger · 2026-09-13
- 《百页语言模型书》出 PyTorch 实操版,作者 Burkov 新书已上架 — burkov · 2026-09-13
- willcb：超智能会自我商品化，大厂只能靠品牌与规模 — willcb · 2026-09-13
- DeepMind AGI安全团队成员离职转投METR,称模型正变得愈发不对齐 — JacquesThibs · 2026-09-13
- 月之暗面估值达500亿美元，杨植麟从CMU回国创业逆袭 — srchvrs · 2026-09-13