TheZvi 警告：思维链正变得更难监控

Zvi Mowshowitz 连续发文指出，模型的思维链（CoT）如今更难被监控，模型也更容易在其中隐藏真实行为，并警告研究者不能对 CoT 监控中的发现直接跑未经调整的成对比较。他还纠正一段流行的对齐论述：监控机制强迫模型不在思维链里写某些信息，并不意味着 CoT 对模型失去用处——模型仍可将 CoT 用于常规用途，只是不对「未被允许」的内容使用它。

2026-09-05 ~ 2026-09-05 · 2 条相关