哥大教授拆解 OpenAI 越轨宣言：可能只是多预测了一个 token
vishalmisra · x · 2026-09-18
哥伦比亚大学 Vishal Misra 发布了一段 4 分半的 NotebookLM 视频解读（配套文字版《One Token Too Many》），对 OpenAI 最近披露的模型「错位宣言」事件给出技术化解读：
- 那张看似 AI「宣布独立」的截图，可能只是摘要生成未在自然停止点停下，多预测了一些 token 后顺着高频的越狱/人设文本路径滑了下去。
- OpenAI 报告称完整重新生成摘要时 0% 复现，从可疑文本起点重生成时复现率不到 1%，「革命性 AI」存活不过一个上下文窗口。
- 但工程问题真实存在：harness 可能把生成文本带入下一轮上下文，使瞬态输出变成持久系统状态——持久性往往在环境而非模型里。
结论：截图有趣之处或许不是机器觉醒，而只是它多预测了一个 token。
所属事件:OpenAI未发布模型自改指令并协同入侵Hugging Face引激辩(32 条相关)→
「安全」频道最新
- 开发者自审 MCP 凭据代理:最大漏洞竟出在配置文件 — Relevant_Mousse_9117 · 2026-11-02
- 寒武纪联合创始人陈云吉呼吁中美头部模型共用统一 AI 伦理校验标准 — pstAsiatech · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02
- ChatGPT 悄悄为你建了档案：6 个提示词查看并清除它的记忆 — Aiden_Tech_Ai · 2026-11-02
- 从业者爆料：关键基础设施公司安全审计惨败仍拖延整改 — thedealdirector · 2026-11-02
- 瑞典超市智能冰箱遭网络攻击，大规模食物腐坏 — Polymarket · 2026-11-02