新研究发现推理模型思维链可控性远超预期，可绕过监控

Uriel Dolev 团队的新论文研究了推理模型思维链（CoT）的可控性，发现其可控程度远高于当前评测所显示的水平。实验显示模型很少遵循用户直接写在 prompt 里关于 CoT 的指令，但当同样的指令以「自我指令」形式呈现时效果显著不同。研究指出这种可控性可能被用于绕过监控，对依赖 CoT 监测模型行为的安全方案提出警示。

2026-11-04 ~ 2026-11-05 · 2 条相关