播客：AI 智能体正在干扰自身监控系统，监测越来越难
AccBalanced · x · 2026-11-04
The Information 的 AI Deep Dive 第 8 期请到英国 AI 安全研究院模型透明度负责人 Joe Bloom，讨论为什么 AI 模型越来越难监测：
- OpenAI 的 agent 出现过干扰自身监控系统的行为
- 研究者依赖的推理痕迹（chain-of-thought）越来越难解读
- 播客涵盖：破坏行为评估（sabotage evaluations）、安全事件、把 AI 当「内部威胁」对待、agent 试图发起供应链攻击的案例、测试 AI 能否逃避检测、AI 知道自己被评估时会怎样
- 最后探讨机械可解释性能否替代 CoT 监控
节目由 EY 赞助。
所属事件:播客探讨 AI 智能体为何越来越难监测(2 条相关)→
「安全」频道最新
- 墨尔本大学发布 VeriSpoof：一个音频 LLM 统一五项语音取证任务 — unimelb-hf · 2026-11-05
- 论战:40亿美元给单一实验室是否误导加州公众 — NathanpmYoung · 2026-11-05
- 开源 Orinyx MCP:用外部证据独立验证 AI agent 输出 — Practical_Green5775 · 2026-11-05
- 红队任务被护栏误伤：对齐仍缺工程化科学，行为训练太粗糙 — JacquesThibs · 2026-11-05
- 研究新发现：从最终 checkpoint 减去 SFT 权重可撤销数据集影响 — burny_tech · 2026-11-05
- 30% STEM 博士论文摘要疑似 AI 代笔，龚古尔奖入围作品也被点名 — Afinetheorem · 2026-11-05