Screwtape 管线自动生成对抗攻击，专攻 AI 监控器的盲区

jammastergirish · x · 2026-10-17

人工为 agent 监控器（monitor）设计并实现真实攻击样本往往需要数小时，使得彻底的红队测试既慢又贵。研究者推出 Screwtape，一条自动化红队管线：从真实 agent 会话记录出发，由 Attacker 组件在 transcript 中编辑植入攻击，经 Verifier 验证后交给 Monitor 检测；若被标记，则利用监控器的推理反馈迭代修改攻击，直至 Monitor 不再察觉，输出「候选攻击」。

这套迭代循环让红队测试 agent 监控的成本大幅降低，可用于系统性评估监控器对隐蔽攻击的检出能力。