Dario Amodei 发文呼吁 AI 行业减速,Anthropic 开放第三方安全评估
JosephJacks_ · x · 2026-09-13
Anthropic CEO Dario Amodei 发布新文《We Must Pace the Frontier》,主张 AI 行业应主动放慢前沿推进,并提出三部分计划;Anthropic 承诺率先迈出第一步:向第三方评估机构提供永久的员工级系统访问权限,用于验证安全措施的执行、报告事故以及在训练期间评估模型的对齐情况。转发者 Vamsi 对此表示部分认同,认为人类曾战胜病毒爆发、经济崩溃等看似不可能的难题,"这次不一样"仍有争议,关键是把系统做对,不必认为控制 AI 是不可能的任务。
所属事件:Anthropic CEO 发长文呼吁全行业放慢前沿 AI(54 条相关)→
「漫话AGI」频道最新
- 「布鲁克林计划」引热议:被称为我们这代人的曼哈顿工程 — MaliciousMussel · 2026-09-13
- 马斯克、Sam、Dario 短时间内齐呼给前沿 AI 限速 — S_OhEigeartaigh · 2026-09-13
- 网友断言开源已逼近前沿：GLM、Kimi、DeepSeek 将追平 OpenAI 与 Anthropic — Fluffy-Ad-889 · 2026-09-13
- Dario 提议美中为递归式 AI 自我改进设「限速」,类比冷战核军控 — Polymarket · 2026-09-13
- Reddit 网民提议：OpenAI、Anthropic、xAI、DeepMind 应合并为一家公司 — Over-Landscape-5892 · 2026-09-13
- 用 AI 监督 AI：治理学者提出「不可触碰」调查员模型构想 — sethlazar · 2026-09-13