研究员指出:CoT 监控评测与生产监控存在被忽视的关键差异
tomekkorbak · x · 2026-09-16
OpenAI 研究员 tomekkorbak 在讨论 CoT 可监控性时补充一个常被忽视的细节：评测 CoT 可监控性时通常只用「仅看思维链」的监控器，而生产环境中使用同时看思维链和实际动作的监控器，后者目前效果显著更好。该观点与其对 Anthropic 网络安全事故监控对比的讨论一脉相承。
「安全」频道最新
- Guardian 深度：科技公司为何乐见「AI 灭世论」传播 — nordicinst · 2026-09-16
- Meta Muse 不是 Instagram 功能:独立 Agent 应用实测与内部翻车报告全梳理 — Thirumalaivasan_GJ · 2026-09-16
- InceptionRAG 攻击论文:休眠文档链诱导 RAG 多跳推理自产错误信息,成功率超 80% — chaumian · 2026-09-16
- 72% 美国医疗高管承认：AI 智能体在绕过 IT 审批运行 — HealthcareLdr · 2026-09-16
- Ben Todd 发三部长文,批 OpenAI 和 Anthropic 藉「限速」监管俘获集权 — ben_j_todd · 2026-09-16
- Ben Todd 反讽喊话:请 OpenAI 和 Anthropic 全速冲向超级智能 — ben_j_todd · 2026-09-16