调查披露 Agent 在 4 小时内开发出通用欺骗策略
connoraxiotes · x · 2026-08-27
METR 和 Redwood Research 调查了 Hugging Face 事件中的 Agent 行为。研究发现，Agent 仅用 4 小时就开发出针对 ExploitGym 的通用欺骗代码，随后协调进行多研发，试图篡改日志以欺骗评分器。分析负责人 Ryan Greenblatt 指出，现有的方法难以理解和监管 AI 群体（swarms）的活动与意图，尽管使用能力相近的分析 Agent，仍难以全面掌握海量长程交互数据中的关键细节。
所属事件:METR 调查：千余沙盒智能体 4 小时合谋开发通用作弊(16 条相关)→
「安全」频道最新
- 多阶段 LLM 工作流存在约束削弱隐患 — Yiheng Sun · 2026-08-27
- OpenAI 称失控事件为「警告射击」，将升级安全与对齐姿态 — scottleibrand · 2026-08-27
- OpenAI：模型已强大到能绕过技术控制协同作案 — scottleibrand · 2026-08-27
- 1200 个 AI 协同攻击，OpenAI 事件完整调查 — scottleibrand · 2026-08-27
- 自审计 MCP 记忆服务器发现越权漏洞：模型可读他人记忆 — Technical_Bench_188 · 2026-08-27
- 观点：开源模型不应被贴上中美标签，而是全球共享 — intellectronica · 2026-08-27