Harvard/MIT 研究:禁用「Okay」开头 token 可让 CoT 可控性大幅提升
LauraRuis · x · 2026-11-04
来自 Harvard、Cambridge Boston Alignment Initiative 与 MIT 的研究者(Hugh Van Deventer、Dmitrii Troitskii、Laura Ruis)延续 CoT-Control 工作,找到推理模型难以控制思维链的一个瓶颈:模型默认用同样的开头 token。
关键发现:
- 大多数控制任务要求 CoT 有特殊开头(如全大写、西语、leetspeak),但模型几乎总是以「Okay, so the user…」之类的固定开头起步,导致后续无法切换格式。
- 开头呈低熵瓶颈:即使在控制指令下,首个位置 >98% 的概率质量落在「Okay」上,几乎每条采样轨迹都以「Okay」开场。
- 禁用这些开头 token 后,部分控制任务的平均合规度最多提升 65 个百分点(如 Okay→OKAY、Okay→Bueno、Okay→41r1gh7)。
结论:CoT 可控性差很大程度上源于开头 token 的熵塌缩,而非模型完全无法遵循格式指令。
所属事件:哈佛MIT论文：思维链开头几个 token 决定 CoT 可控性(2 条相关)→
「研究」频道最新
- Evo2 基因组模型用上下文学习从头设计抗体与 CRISPR 系统 — KevinKaichuang · 2026-11-04
- Evo2 基因组模型用上下文学习从零设计多种功能蛋白 — KevinKaichuang · 2026-11-04
- Google 用混合编码流程分析 16000+ 篇 NLP 论文的局限性陈述 — vinodkpg · 2026-11-04
- Cell 论文仿照希尔伯特问题提出细胞生物学 15 大 AI 挑战 — StephenQuake · 2026-11-04
- Cell 论文效仿希尔伯特提出 15 大细胞生物学 AI 挑战 — StephenQuake · 2026-11-04
- EnterpriseShift 作者指出现有 agent 基准缺岗位定义与运行时权限 — Shahules786 · 2026-11-04