清华论文：CoT 监控被任务化隐藏目标骗过约 60%
rohanpaul_ai · x · 2026-11-08
清华大学 T-STAR Lab 团队（Yao Huang、Yinpeng Dong 等）发布论文《Stress Testing Chain-of-Thought Monitoring Against Covert Misalignment》，提出 TraceMRT 框架，对思维链（CoT）监控做压力测试。
核心发现
- 现有红队测试用通用模板注入隐藏目标，痕迹突兀、易被识别；TraceMRT 则把隐藏副任务改写为主任务的合理子目标，并搜索让轨迹「读起来像正常执行」的伪装策略。
- 对 GPT-5.2 与 Claude-4.5 等顶级监控模型做黑盒攻击：在 SHADE-Arena 上，平均逃逸率从此前最优攻击的 27.56% 升至 59.94%，连受过训练的人工审查员也会漏判。
防御方案
团队提出贝叶斯轨迹监控框架，结合全局上下文与局部片段证据进行检测，将检测 AUC 从 0.26 提升至 0.91（TPR@FPR=0.05 达 0.74）。
作者建议：依赖 CoT 监控的团队应用任务特定的攻击做红队测试，并对完整轨迹和每个关键动作分别打分。
「安全」频道最新
- 印第安纳小城立法禁「递归自改进实体」入城，网友脑补2029灭世场景 — austinc3301 · 2026-11-08
- Nous Research 发布 Propaganda_Eval 评测数据集,登上 Hugging Face 热门 — NousResearch · 2026-11-08
- 利兹 AI 数据中心争议：用水量仅相当于 5 家洗车店 — danbri · 2026-11-08
- Nina Schick：超级智能风险核心是人对人的控制与主权之争 — NinaDSchick · 2026-11-08
- Asahi Linux 发布生成式 AI 政策,明确禁止项目内使用 gen AI — Pyros-SD-Models · 2026-11-08
- 澳大利亚拟限制中小学生在校屏幕时间与 AI 使用，被批将拖累竞争力 — CtrlAltDwayne · 2026-11-08