Dario 提出三步走「放缓前沿」计划，Anthropic 率先开放第三方评估员常驻权限
JessicaHullman · x · 2026-09-12
Dario Amodei 发布新文章《We Must Pace the Frontier》，主张 AI 行业应放慢脚步，并提出三部分计划。Anthropic 单方面承诺第一步：向第三方评估员提供永久的员工级系统访问权限，使其能核查安全措施执行情况、报告事故并在训练过程中评估模型对齐。
安全研究者 Joshua Saxe 转发并给出审慎评价，认为其中不乏合理之处，但关键问题在于：
- 评估者的独立性如何保证，由谁挑选、何时更换；
- 是否拥有不可撤销的拦截模型发布的权力；
- 决策是否基于真实世界风险信号（并与 AI 进步的正向收益权衡），而非仅实验室测试；
- 美国与中国的前沿实验室是否都采纳同样做法且承诺不违约。
他认为只有这些落地问题解决，「大家才能真正放心」。
所属事件:Dario Amodei 发文呼吁前沿 AI 集体减速(203 条相关)→
「漫话AGI」频道最新
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31
- ThursdAI 播客辩论:Opus 7 将至,「跑分变好」还重要吗 — thursdai_pod · 2026-10-31
- Diamandis：AI 真正的分界线是好奇者与畏惧者，而非贫富 — PeterDiamandis · 2026-10-31
- Chris Manning 演讲:语言才是通向智能的真正钥匙 — stanfordnlp · 2026-10-31