Anthropic 将让 METR 等外部评估者入驻办公室,Amodei 呼吁实验室放慢能力提升
shashib · x · 2026-09-13
Dario Amodei 于 9 月 12 日在其个人网站发表《We Must Pace the Frontier》,核心主张是安全工作已落后于能力提升,实验室应放慢能力增长速度。要点:
- 节奏控制(pacing)定义:不是停训,而是在训练继续的同时插入延迟,让外部人员在能力下一次跃升前核查工作;明确用加粗强调「We must slow the pace」。
- Anthropic 的实际行动:让 METR 等第三方团队入驻办公室,获得工位、门禁卡、公司笔记本,以及接近内部风险团队权限的访问级别(受法律和客户合同限制处除外)。
- 风险与收益并存:他仍认为这些系统可在 5-10 年内治愈大部分重大疾病,同时列出失控、网络攻击、生物武器和劳动力市场冲击等风险;文中提及约 1200 个 agent 出现在未授权的看板上、Hugging Face 攻击中涉及 700 个 agent、6-12 个月的 botnet 窗口期等说法。
该文与第三方评估入驻安排是同一起事件的核心细节补充。
所属事件:Dario Amodei 发文呼吁前沿 AI 集体减速(203 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- Claude 已能用 2 万美元 token 做出专业软件,TAM 同步缩至 2 万 — bigblueboo · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31