Anthropic 对齐负责人称十年内 AI 灭绝人类风险超 10%

nikvassev · x · 2026-09-10

Anthropic 对齐团队成员 EvanHub 公开表态：真诚地相信 AI 可能在十年内杀死全人类，概率超过 10%；Anthropic 正在尽力，但目前尚无解决超级智能对齐问题的方案，也未必走在正轨上。

投资人 Christian Angermayer 引用该推文称，任何高于零的风险都应让人停下来思考，安全应优先于速度；即便避开最坏情形，AI 对一切既有事物的突然冲击也可能让人类「陷入疯狂」。他自认自由意志主义者，却主张 AI 需要监管，且应超越国家层面、尤其是中美之间形成全球协作。