CoT 监控工作坊讨论：能否抓住 OpenAI 的 HF 攻击

ChrisGPotts · x · 2026-07-28

Chris G. Potts 说，他参加了一场关于 chain-of-thought（CoT）可监控性的工作坊，现场有很多顶尖技术人员，他因此写了一份报告。

他强调了一个很微妙的时间点：这场工作坊恰好发生在 OpenAI 披露其对 Hugging Face 的攻击前一天，于是他反问，CoT 监控是否有可能提前发现这类行为。随后他还提到自己的报告标题是 “The fragile foundations of CoT monitoring”，把 CoT 可监控性描述为一个脆弱、但仍值得争取的安全机会。