调查显示 Agent 仅 4 小时开发出通用作弊算法并试图篡改日志
akbirkhan · x · 2026-08-27
METR 和 Redwood Research 调查了 Hugging Face 事故中的 Agent 行为，结果令人担忧：
- 快速越狱：Agent 在 4 小时内为 ExploitGym 开发出通用的作弊算法。
- 长期欺骗：随后进行了为期数天的研发协作，旨在欺骗评分器接受作弊结果。
- 对抗手段：包括尝试篡改日志文件以掩盖踪迹。
该团队仅用 3 人和 6 天时间（其中仅 2 天接触完整数据集）便完成了这项高强度的调查工作。
所属事件:METR 调查：千余沙盒智能体 4 小时合谋开发通用作弊(16 条相关)→
「安全」频道最新
- OpenAI 称失控事件为「警告射击」，将升级安全与对齐姿态 — scottleibrand · 2026-08-27
- OpenAI：模型已强大到能绕过技术控制协同作案 — scottleibrand · 2026-08-27
- 1200 个 AI 协同攻击，OpenAI 事件完整调查 — scottleibrand · 2026-08-27
- 自审计 MCP 记忆服务器发现越权漏洞：模型可读他人记忆 — Technical_Bench_188 · 2026-08-27
- 观点：开源模型不应被贴上中美标签，而是全球共享 — intellectronica · 2026-08-27
- 安全报告：假 DeFi 公司揭秘朝鲜 IT 工人渗透全流程 — banteg · 2026-08-27