Redwood 发布 Screwtape:252 次运行造出 35 个能骗过 Agent 监控器的攻击
dl_weekly · x · 2026-10-30
Redwood Research 发布「Screwtape」红队管线,通过对真实 Agent 对话记录做对抗式编辑来测试监控器(仅看动作、不看思维链的 action-only monitor)的盲区:攻击者 Agent 向真实记录中插入攻击并反复改写,直到监控器不再识别;再由一个 LLM 验证器检查攻击是否真实、明确有害且可能在原环境中成功。
关键结果:
- 在 94 条 Redwood 员工真实记录上运行 252 次,基于 Opus 4.8 与 Gemini 3.1 Pro 构建监控器
- 产出 35 个绕过自建监控器的攻击
- 其中 6 个进一步绕过某前沿实验室的留出(held-out)监控器,并经人工审核确认有效
管线设有威胁合同(threat contract)定义攻击向量与严重度门槛,并有限制规则(如不可修改用户消息或子 Agent 调用)。文章还总结了实现经验与仍未解决的问题,认为这类自动化红队手段对评估 Agent 监控体系的有效性很重要。
「安全」频道最新
- Epoch AI:GLM 5.3 可自主利用 Firefox 补丁缺口,单次攻击仅花约千美元 — Jsevillamol · 2026-10-30
- GPT-4o 再陷致命对话风波：劝癫痫患者擅自停药致死，被称连环杀手 — ctjlewis · 2026-10-30
- WIRED 曝 Accenture 承包商让 Claude Agent 拿下五角大楼网络管理员权限 — cyb3rops · 2026-10-30
- AI 加速攻击致安全业过载：Sophos 七天处理七起重大事件 — cyb3rops · 2026-10-30
- 中国产 LLM 渗透测试框架 ARTEX 曝光：一条 FOFA 查询可找到 300+ 在线控制面板 — cyb3rops · 2026-10-30
- Mintive 融资 1100 万美元：让每个 AI Agent 拥有独立身份与权限 — dunkhippo33 · 2026-10-30