Dario 发文呼吁给前沿 AI 降速,DeepMind 同日试点全球首个双盲评测
sebkrier · x · 2026-09-14
Anthropic CEO Dario Amodei 发布新文章《We Must Pace the Frontier》,主张 AI 行业应放慢速度并提出三步计划;Anthropic 单方面承诺第一步:给第三方评估机构永久性的「员工级」系统访问权限,以验证安全措施执行、报告事故、在训练期间评估模型对齐。
同日,Google DeepMind 宣布试点全球首个前沿模型双盲评测:在密码学隔离的「盒子」环境中,联合新加坡 AI 安全研究院、OpenMined、AVERI 和 MLCommons,对 Gemini Flash Lite 进行保密基准测试,防止基准污染(模型提前见过题)扭曲评测可信度。
iamtrask 评价:嵌入式第三方评估员是「1960 年代的方案解决 2026 年的问题」,真正的方向是结构化透明(structured transparency),并引用了 Drexler 的相关范式论述。
三家头部实验室在同一天围绕「如何可信地评估和约束前沿模型」交出方案,是 AI 安全治理的关键节点。
所属事件:Anthropic CEO 发长文呼吁前沿 AI 降速并率先开放第三方评估(198 条相关)→
「公司和人」频道最新
- 八年前的预言：马斯克称 AI 危险性远超核武器 — elonmusk · 2026-09-14
- Encord 创始人被指低估：圈内追溯「前沿配速」发现史 — NathanpmYoung · 2026-09-14
- SpaceX 猎鹰家族完成第 700 次发射,百次任务压缩到 8 个月内 — XFreeze · 2026-09-14
- 纳德拉谈模型发布：AI 竞赛越险，越要把 pre-release 测试做足 — inductionheads · 2026-09-14
- tszzl 力挺马斯克:称其为 decel 的人已经迷失了方向 — tszzl · 2026-09-14
- AI 自适应学习让私塾模式重新可行,教育者呼吁回归小班教学 — RachelVT42 · 2026-09-14