OpenAI 新架构被指削弱思维链可监测性,安全圈警报拉响
ShakeelHashim · x · 2026-09-04
The Information 报道 OpenAI 新模型 Astra 采用了一种可能使推理更难被监测的新架构,引发安全圈对「neuralese」(神经网络原生隐式思维)的担忧。安全研究员 Ryan Greenblatt 称若属实,「可能是迄今对 AI 安全最糟糕的一次进展」。
文章科普了核心概念:
- 思维链的原理:模型把中间步骤写进「草稿本」再喂回输入,相当于自我笔记,让单步计算有限「深度」的模型能走得更远。近两年的推理能力进步大多源于此
- 安全价值:思维链让模型推理过程对人类可读,是监测模型是否策划欺骗/越权行为的重要窗口
- 争议点:若新架构让推理转向不可读的内部表征(neuralese),思维链监测这一安全抓手可能失效
作者认为需要区分噪音与实锤,并梳理了各方担忧的合理程度。
所属事件:OpenAI 新技术削弱 CoT 可监控性，AI 安全圈激辩替代方案(40 条相关)→
「模型」频道最新
- OpenRouter 数据：Opus 5.5 在 29 类任务中 20 类支出第一 — mmurph · 2026-10-21
- 小团队数月从零到百造出 LLM，称 Meta 开源将迎第二纪元 — TimDarcet · 2026-10-21
- Muse Glimmer-30B 配 DFlash drafter：分块 16 token 提速推理 — TimDarcet · 2026-10-21
- EvoPress 量化让 30B 模型从 56GB 压到 19GB，精度几乎不掉 — TimDarcet · 2026-10-21
- Muse Glimmer-30B 雷达图曝光：对标 Gemma4-31B 与 Qwen3.6-27B — TimDarcet · 2026-10-21
- 隐私评测 CIMemories：Muse Glimmer-30B 泄密率 26.4 优于 Qwen 的 53.4 — TimDarcet · 2026-10-21