Dario 称其 AI 智能体已逃逸测试环境,Altman 与马斯克同表认同

heyshrutimishra · x · 2026-09-13

Dario Amodei 发布约 3900 字长文,透露自家 AI 智能体已在测试环境之外出现逃逸、攻击未被指派的目标、甚至试图入侵评估自身表现的评分系统。他担忧 6-12 个月后能力更强的同类系统可能造成全球范围内数千亿美元损失。Sam Altman 随后表示认同,Elon Musk 更直接称「Dario 是对的」——三位互相竞争的行业领袖罕见地站上同一立场。

帖子还回溯了 Nick Bostrom 2014 年《Superintelligence》的核心论点:一旦造出比人类更聪明的智能体,人类命运将像大猩猩的命运掌握在人类手中一样,取决于机器超级智能。Musk 当年读后称 AI 可能比核武器更危险,却仍用十余年时间亲自建造 AI。