So8res 发长文批 Anthropic:IPO 前夕不符自身安全理想
trevposts · x · 2026-11-23
AI 安全研究者 So8res 在 Anthropic IPO 前夕发表长文《Anthropic is not living up to its ideals》,批评其言行不一。
核心论点:
- AI 公司领袖承认超级智能可能毁灭人类,辩解是「既然挡不住列车,至少能跑得更安全」;So8res 认为承担这种责任就意味着有更大义务全力改变竞赛格局,而 Anthropic 做的更多是淡化危险而非阻止竞赛。
- 文章逐段对比 Dario 在媒体采访中的表现:被 Anderson Cooper 直问「你是否真心相信 AI 能杀死所有人类」时,Dario 转而谈论刚辞职的 Jacob Coxon 并称「出事概率不那么高」;被 Jo Ling Kent 问及灭绝风险时,他立刻转谈 AI 的好处。
- 作者并列写出 Dario「本可以怎样直答」的示范段落,结论是他并非说谎,而是在闪避——在公众第一次认真追问 AI 风险的时刻,传递了「没事,我们控制得住,回去睡吧」的信号。
- 作者也强调其他前沿实验室同样不合格,只是它们不像 Anthropic 明天就 IPO。
「漫话AGI」频道最新
- Anthropic 上市之际追问:AI 干完活,新人拿什么学手艺 — shivsingh · 2026-11-23
- 「AI 终局同态」假说:所有职业与工具正收敛为同一种建造者 — bendee983 · 2026-11-23
- WSJ:越来越多二十多岁年轻人跳过入门级工作直接当老板 — himanshustwts · 2026-11-23
- 经济学家:AI让技术功底溢价消失,会提问比会证明更重要 — _akpiper · 2026-11-22
- 「AI 永远做不到 X」的专家预言正被逐条证伪 — Glen_Garrett_Gayhart · 2026-11-22
- 华盛顿邮报起底 Anthropic:Amodei 曾估 AGI 有 20-30% 毁灭人类概率 — GaryMarcus · 2026-11-22