前 OpenAI 研究员 bshlgrs:一年内造出超级智能的概率约 1/3

birchlse · x · 2026-11-11

前 OpenAI 研究员 Steven Byrnes(bshlgrs)发长文声称:未来一年内 AI 公司有约三分之一概率造出「超级智能」——即在所有方面都远超人类的 AI;一旦发生,这些 AI 很可能会接管人类制度(如政府)或摧毁这些制度,且存在相当大的概率在此过程中大部分人类被杀。他表示自己不希望 AI 接管发生,并逐一展开论证。

转发者 AndyMasley 补充了更朴素的推理:人类没有「主角光环」、人类智能已经彻底改变了世界、智能并非魔法——从这三点就能推出「疯狂的事情可能很快发生」,与公司多快采用当前 AI 无关。birchlse 转发了这一讨论。这是近期 AI 风险讨论圈里流传度很高的一篇立场宣言。