Dario Amodei 发文呼吁放慢 AI 能力进步,承诺开放第三方评估
4KTV · x · 2026-09-12
Anthropic CEO Dario Amodei 发布新文《We Must Pace the Frontier》,主张 AI 行业应放慢前沿模型能力提升的节奏,并给出三部分计划。他重申 AI 可能在 5-10 年内治愈多数重大疾病、加速经济增长,但失控、网络攻击与生物恐怖主义滥用、经济冲击等风险同样严重,商业激励驱动的逐底竞争会加剧风险。作为第一步,Anthropic 单方面承诺:向第三方评估者提供永久的、员工级别的系统访问权限,用于核验安全措施执行、报告事故,并在训练期间评估模型的对齐情况。
所属事件:Dario Amodei 发文呼吁前沿 AI 集体减速(203 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31
- ThursdAI 播客辩论:Opus 7 将至,「跑分变好」还重要吗 — thursdai_pod · 2026-10-31