论文揭示推理模型 CoT 监控的重大失效
tomekkorbak · x · 2026-07-08
@tomekkorbak 在 ICML 介绍其团队论文:他们揭示了现代推理模型(reasoning models)一个出人意料的失效模式,对思维链(CoT)监控和 AI 安全具有重要影响。他们提出的评测此后已被 OpenAI 和 Anthropic 纳入各自模型的系统卡(system cards)。
「安全」频道最新
- a16z 播客：Diode 用 AI 设计电路板+自建工厂，重振美国硬件制造 — MattPerault · 2026-10-26
- 网络安全两类工程师梗图:真正的威胁是冒充 IT 的社工骗局 — McDonaghMatthew · 2026-10-26
- 安全专家：让 AI 智能体按 NIST CSF 搭知识库做应急响应 — prasanna_says · 2026-10-26
- 中国首个前沿AI安全独立评测实验室「方寸跃迁」成立并首发DeepSeek评测 — JacquesThibs · 2026-10-26
- ESR 谈「Bug 崩坏潮」：封堵前沿模型只会让中国开源模型占便宜 — colinmcnamara · 2026-10-26
- OpenCode 披露安全漏洞:1.4% Console 用户 API 密钥泄露 — thione · 2026-10-26