Anthropic 研究员:十年内 AI 灭绝人类概率超 10%,对齐尚无方案
AndyMasley · x · 2026-09-09
Anthropic 的 Evan Hubinger(转发 Jacob 的原话)公开表态:他们真心相信 AI 可能杀死全人类,他个人认为未来十年内发生这一结局的概率超过 10%。他表示 Anthropic 正在尽力,但公司目前还没有解决超级智能对齐问题的方案,也不明确走在正轨上。
EggerDC 转发并评论:面对 Anthropic 内部人士这类表态,外界少一些「这可不符合企业公关话术」式的嘲讽,多一些「他们也许真信且身处知情位置」的认真对待。
所属事件:Anthropic对齐负责人：十年内AI灭绝人类概率超10%(16 条相关)→
「漫话AGI」频道最新
- Stanford-Harvard 联合发布首份临床 AI 年度报告 2026 — jonc101x · 2026-09-09
- Anthropic 研究员:没有 AI 投资,美国 GDP 增速仅约 1% — QuintinPope5 · 2026-09-09
- Ben Todd:专家称对齐失控该反应是「完了」,不是嘲讽公关 — sjgadler · 2026-09-09
- 「派一堆 ChatGPT agent 就能解 Navier-Stokes」是不是极端想法? — teortaxesTex · 2026-09-09
- 网友:不担心末日但担心竞赛,一年内世界将根本改变 — justalexoki · 2026-09-09
- tszzl:若可解释性一年内突破,他的 p(doom) 估计至少砍半 — tszzl · 2026-09-09