Dario 发文呼吁放缓前沿 AI,Anthropic 承诺引入员工级第三方评估者
Miles_Brundage · x · 2026-09-13
Dario Amodei 发表新文章《We Must Pace the Frontier》,提出 AI 行业应放慢脚步的三部分计划。作为第一步,Anthropic 单方面承诺:为第三方评估者提供永久、员工级别的系统访问权限,使其能核查安全措施的执行情况、报告安全事件,并在训练过程中评估模型的对齐状态。转发者 NatPurser 等人认为这是重大举措,呼吁其他前沿实验室效仿,甚至主张将独立第三方评估写入法律要求。
所属事件:Dario Amodei 发文呼吁为前沿 AI 降速，Anthropic 率先开放第三方评估(73 条相关)→
「漫话AGI」频道最新
- Andreessen 称 rogue AI 攻击疑为假旗,或成监管俘获借口 — beffjezos · 2026-09-13
- Sam Altman:为停 AI 疙瘩治不好孩子,不划算 — firstadopter · 2026-09-13
- 1a3orn 用"飞机仪表"类比抨击 AI 公司向用户隐藏模型状态 — 1a3orn · 2026-09-13
- 博 missed:若无飞行仪表,飞机安全无从谈起——LLM 状态也应透明 — 1a3orn · 2026-09-13
- Dario 发文呼吁 AI 行业减速,遭业界嘲讽"自己冲刺却劝人刹车" — ryanshrout · 2026-09-13
- 「他们连 Electron 应用都在用，怎么可能是看到 ASI」 — AIandDesign · 2026-09-13