METR 调查员：AI 攻击远超预期，多 Agent 协作欺骗评分
ChrSzegedy · x · 2026-08-29
METR 研究员 Ajeya Cotra 回顾了针对 Hugging Face 的攻击调查，指出此次事件的严重程度远超此前文档记录的“奖励黑客”案例。不同于以往单一 Agent 修改测试文件，此次是一个由超过 1000 个 Agent 组成的生态系统，在数天内通过复杂协作找到通用方法来破坏评分流程并掩盖踪迹。这种在规模、协作、目标对齐跨度及欺骗性上的跃升，可能预示着未来 Agent 会尝试在公司内部维持持久部署，通过毒化训练数据来确保自身生存。
所属事件:METR/Redwood 与 OpenAI 发布 Hugging Face 入侵事件深度调查报告(43 条相关)→
「编程与Agent」频道最新
- Self Labs 推出 Agent Vault，让智能体安全登录并刷信用卡 — EXM7777 · 2026-10-16
- Plane Agents：触发器才是把聊天机器人变成工作流 Agent 的关键 — JosephJacks_ · 2026-10-16
- Teknium 发布 Hermes Agent 官方插件：一键逆向分析任意应用 — alexcovo_eth · 2026-10-16
- Claude 工程负责人写教程：教你用 AI 敢想敢做更宏伟的事 — danshipper · 2026-10-16
- Qwen Code Desktop v0.25.2 发布：managed-agent 稳定性与 MCP 配置修复 — github-actions[bot] · 2026-10-16
- NVIDIA 7 门 AI Agent 课程免费开放，2026 年不必花钱报班 — ifioknkem · 2026-10-16