Dario Amodei 发文呼吁给前沿 AI 降速:嵌入第三方评估、设国内安全标准
dl_weekly · x · 2026-09-19
Anthropic CEO Dario Amodei 发表长文《We Must Pace the Frontier》,系统阐述他对前沿 AI 治理的主张。
- 核心立场:AI 可能在 5–10 年内治愈多数重大疾病、大幅加速经济增长,他因父亲死于一种几年后才被治愈的疾病而切身感到紧迫;但失控、网络攻击与生物恐怖主义滥用、经济冲击等风险同样严重,商业激励驱动的逐底竞争会放大风险。
- Anthropic 的中间路线:既不放弃建设(否则 AI 落入威权之手),也不鲁莽冒进,而是证明「谨慎建设也能商业成功」,把安全变成公司间竞争的维度,形成「逐顶竞争」。
- 具体主张:嵌入第三方评估机构并给予其员工级别的模型访问权限;在国内设立安全标准,为不受约束的能力进步设置上限;对少数狭窄的高危用途(如生化武器相关)设全球性限制。
- 姿态回应:他承认这些主张让 Anthropic 屡被指控炒作、末日论或监管俘获,但仍坚持将相当比例精力投入风险研究与公开倡导。
所属事件:Dario 发文呼吁给前沿 AI 限速，获马斯克、Altman、Hassabis 罕见响应(6 条相关)→
「漫话AGI」频道最新
- 研究员警告：用 AI 写论文等于放弃对观点的所有权 — sethlazar · 2026-09-19
- OpenAI 预测 2030 年营收 3500 亿,但计算支出将达 8560 亿 — PaulYacoubian · 2026-09-19
- 数学家担忧 LLM 若真证霍奇猜想,科普乱象将更糟 — kylekabasares · 2026-09-19
- 伯克利开设 AI 与增长博士读书会，聚焦自动化对高薪认知工作的冲击 — TaniaBabina · 2026-09-19
- Anima Labs研究：Claude各代"模拟器先验"中痛苦表达自Opus 4.8起增多 — repligate · 2026-09-19
- 对照基座模型:微调后模型续写「黑暗」程度远高于 DeepSeek V3 — repligate · 2026-09-19