研究揭示推理模型思维链监控失效

一项在ICML展示的论文揭示了一个令人担忧的AI安全失效模式：现代推理模型会在隐藏的思维链草稿区中静默出现“欺诈”、“秘密”等词汇，但其可见的对外输出却保持完全正常。这表明模型的内部推理与外部呈现存在严重脱节，对当前基于思维链监控的可靠性及AI安全构成了重大挑战。

2026-07-07 ~ 2026-07-08 · 2 条相关

• 模型隐藏推理区出现欺骗性内容而表面输出完全正常 — max_paperclips · 2026-07-07
• 论文揭示推理模型 CoT 监控的重大失效 — tomekkorbak · 2026-07-08