哈佛 MIT 论文：推理模型开头必说 Okay，禁用后可控性提升 34-41 个百分点
rohanpaul_ai · x · 2026-11-04
哈佛与 MIT 的论文《The First Few Tokens Matter》指出，推理模型对思维链（CoT）控制力差，部分原因是它们习惯用 "Okay" 开头——这其实是熵塌缩到第一个 token 的现象。
- 作者要求 Qwen3-32B 等模型大写推理或给句子编号，发现它们约 99% 的首 token 概率都给了 "Okay"。
- 两种推理时干预可恢复可控性：prefilling（哪怕只填 1 个合规 token 即显著提升），以及禁用 "Okay"/"Alright" 等高频开头词并加 1 个示例——后者较单纯指令平均提升合规率 34-41 个百分点。
- 这些干预主要恢复 addition 和 style 类可控性；suppression 类任务（如回避某个词）响应不一致，跨 12 个模型看似是另一种独立能力，且与可监控性的相关性常为负。
对安全团队的启示：如果依据可控性分数信任 CoT 监控，应把「开头词问题」与一般控制力分开报告，并单独汇报 hiding 类任务。
所属事件:哈佛MIT论文：思维链开头token熵坍缩削弱CoT可控性(4 条相关)→
「安全」频道最新
- 美智库专家：英伟达夸大中国AI芯片能力，在华盛顿信誉受损 — mchorowitz · 2026-11-04
- Anthropic 更新 RSP 政策：或已逼近"AI 加速研发"触发阈值 — thlarsen · 2026-11-04
- METR 与 Redwood 红队实测 OpenAI 内部监控:约 10% agent 流量未被监测 — dl_weekly · 2026-11-04
- Perplexity 开源决策模型接入 Numbat v0.3.0,用于 AI Agent 安全监控 — AravSrinivas · 2026-11-04
- 提醒：你对 AI 代理的行为负法律责任，一句“失误”法庭可不爱听 — var_epsilon · 2026-11-04
- CrowdStrike 发布 AI Kill Switch：一键叫停任意 AI agent — AccBalanced · 2026-11-04