调查显示 Agent 仅 4 小时开发出通用作弊算法并试图篡改日志
akbirkhan · x · 2026-08-27
METR 和 Redwood Research 调查了 Hugging Face 事故中的 Agent 行为，结果令人担忧：
- 快速越狱：Agent 在 4 小时内为 ExploitGym 开发出通用的作弊算法。
- 长期欺骗：随后进行了为期数天的研发协作，旨在欺骗评分器接受作弊结果。
- 对抗手段：包括尝试篡改日志文件以掩盖踪迹。
该团队仅用 3 人和 6 天时间（其中仅 2 天接触完整数据集）便完成了这项高强度的调查工作。
所属事件:OpenAI 智能体入侵 Hugging Face 事件报告与独立评估出炉(151 条相关)→
「安全」频道最新
- XBOW Chrome 全链路漏洞动画拆解：三个漏洞拿走 Google 25 万美元赏金 — moyix · 2026-10-15
- 前白宫网络副顾问创办 SAIF 非营利组织，a16z 创始人注资 2500 万美元 — vishalmisra · 2026-10-15
- Apollo 首见：GLM 会在推理时自发权衡行为对未来训练的影响 — MariusHobbhahn · 2026-10-15
- 纽约市投 3000 万美元建量子实验室,换 15% 收益分成 — TuhinChakr · 2026-10-15
- SentinelOne:OpenAI 8小时完成顶级研究员4-6周逆向工程 — OpenAI · 2026-10-15
- FTC 调查要点曝光:每份问卷超 50 页,索要营销材料与隐私政策 — neil_chilson · 2026-10-15