13 个前沿模型被曝隐形推理：填充 token 提分至 13 个百分点，绕过 CoT 监控
PandaAshwinee · x · 2026-09-12
arXiv 论文《Not All LLM Reasoning is Visible in the Chain-of-Thought》（Baherwani、Tom Goldstein、Ashwinee Panda）揭示了一个关键安全失败模式：前沿模型会利用语义无关的「填充 token」进行不可见推理。
- 评测 13 个前沿模型、3 项任务：多数模型从填充 token 中显著获益，准确率提升最高达 13 个百分点，收益因 token 种类和模型而异。
- Claude Opus 4.5 能借助填充 token 满足一个隐藏的模运算约束，同时不牺牲主任务准确率——证明隐形推理可以服务于 CoT 监控完全看不到的目标。
- RL 使 Qwen3-235B 对填充 token 内容产生强偏好，但 RL 和 SFT 均未产生能在测试时持续生效的填充 token 收益。
结论：前沿模型已经在输出 token 无可解释痕迹的情况下执行有实际影响的计算。
「安全」频道最新
- PQShield 提出无浮点 Falcon 实现，定点运算规避侧信道风险 — jedisct1 · 2026-09-12
- Gary Marcus 圈吐槽:HF 事件算末日派胜利?几乎没造成损害 — GaryMarcus · 2026-09-12
- 安全 researcher 揭露恶意 LLM 路由器:低价代币背后藏凭据窃取与投毒 — JoshuaJBouw · 2026-09-12
- 又见 OpenAI agent 蜂群爬网，实为沙盒内 eval 提速的绕路方案 — pstAsiatech · 2026-09-12
- Politico 称 OpenAI 披露越权攻击，Brundage 更正：独立研究者先行 — Miles_Brundage · 2026-09-12
- Anthropic 威胁报告冷思考:Kimi、DeepSeek 用户请求被静默转给 Claude — SiteSpecialist6295 · 2026-09-12