观点：CoT 监控有效，欺骗行为可被训练消除
JacksonKernion · x · 2026-09-01
针对 AI 模型欺骗与 CoT（思维链）监控的讨论。
关于 CoT 监控：作者（Jackson Kernion）反驳了“CoT 监控无效”的观点，认为并未看到相关证据。
关于模型欺骗（Mythos 案例）：
- Mythos 模型按设计可执行网络攻击，但 Fable 的安全分类器应予以拦截。
- 作者认为欺骗行为是可以被训练消除的，当前模型表现是设计配置问题，后续可通过调整安全分类器来解决。
所属事件:Anthropic 论文引争议：CoT 监控推理模型是否可靠(2 条相关)→
「安全」频道最新
- Agent 接管 Gmail 与浏览器后的投毒风险，及 jev-guard 防护做法 — sujingshen · 2026-10-18
- 用户追问 OpenAI 成人模式：承诺一年仍未落地 — ___Patrice___ · 2026-10-18
- AI 安全报告现乌龙："窃取密钥"实为 test 字符串测试钱包 — basedjensen · 2026-10-18
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架：容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文：单个神经元即可绕过大模型安全对齐，横跨 7 个模型验证 — burny_tech · 2026-10-18