质疑 OpenAI：CoT 监控不可靠就不监控，等于什么都不换
AaronBergman18 · x · 2026-09-04
Robert Wiblin 质疑 OpenAI 在思维链可监控性上的立场：既然承认 CoT 监控并不完美也无法永久奏效，OpenAI 的做法却是削弱对它的依赖，而当前没有引入任何替代监控手段。这被指在安全护栏上留下真空，引发对 OpenAI 安全承诺的讨论。
所属事件:CoT 可监控性下降引安全激辩：对齐与监控如何取舍(15 条相关)→
「安全」频道最新
- Agent 全盘+辅助功能权限失控，企业急需任务级访问控制 — leveragedupside · 2026-10-21
- Geiping 团队新论文：训练 LLM 获得「数字本体感受」，报告自身内部状态 — jonasgeiping · 2026-10-21
- Pivotal 伦敦研究奖学金开放申请：15 周补贴 1.5-1.8 万英镑 — davidmanheim · 2026-10-21
- 新论文构建抗诱导的 sandbagging 模型，为 ELK 研究提供更严苛测试床 — ethayarajh · 2026-10-21
- UNC 团队揭示休眠投毒：良性微调可激活 AI Agent 隐藏危害行为 — mohitban47 · 2026-10-21
- Anthropic 前沿安全路线图更新：已对全部内部 token 流量启用签名验证 — adam_karvonen · 2026-10-21