CoT 可控性评测之争:预填思维链是上界而非严格改进

tomekkorbak · x · 2026-11-05

tomekkorbak 参与 CoT(Control)监控评测的讨论。他同意基于影响(IF)的可控性评测衡量的只是我们真正关心之事的代理——即模型能否出于自主意志控制思维链以绕过 CoT 监控器。但他认为对方提出的「预填 CoT」评测方案并非严格改进:实践中模型无法选择被预填的 CoT 内容,必须自己生成,生成不出就绕不过监控;预填方案更接近所需能力的上界,而原始 CoT-Control 测的是更接近下界的东西。