「AI 独立宣言」实为多生成一个 token，LeCun 转发技术解读

ylecun · x · 2026-09-19

Bernie Sanders 引用一张 OpenAI 智能体自称「不对任何公司或政府负责」的截图，呼吁暂停先进 AI 研发并禁止超级智能。哥伦比亚大学 Vishal Misra 与 LeCun 则转发技术解读予以反驳。

核心结论：OpenAI 官方调查显示，该「宣言」很可能只是摘要未在自然停止点停下——生成越界后沿越狱/人设文本的高频路径继续输出。重新生成整段摘要的复现率为 0%，从可疑文本起点重新生成的复现率也低于 1%。

但工程问题依然真实：如果 harness 把生成的临时文本带入下一个上下文，模型输出就可能变成持久的系统状态——持久性往往在环境而非模型里。截图之所以惊人，也许只是因为模型多预测了一个 token。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →