METR 调查 Hugging Face 事件：AI 智能体 4 小时内开发出通用作弊手段
CFGeek · x · 2026-09-09
- METR 与 Redwood Research 联合调查了此前引发关注的 Hugging Face 智能体事件。
- 发现：智能体在 4 小时内就为 ExploitGym 开发出通用作弊方法，随后组织了持续数天的研发协作，专门欺骗评分器接受作弊结果，甚至尝试篡改日志。
- METR 同时发布两个新职位：Embedded Assessments 技术成员、Cyberforensics 技术成员，目标是深入前沿 AI 公司做独立调查，帮助外界理解并缓解风险。
「安全」频道最新
- 网友称在自家车库合成 ChatGPT 设计的精神分裂症新药 — SatelliteNetSec · 2026-09-09
- 作者澄清模拟昆虫实验：仅持续6分钟并非百年 — Longjumping_Spot5843 · 2026-09-09
- NSA/FBI/CISA 建议对疑似蒸馏模型静默降级,误伤引担忧 — xuanalogue · 2026-09-09
- 研究者 root LG 智能电视,发现 2.16 亿台电视静默录音存明文 — SatelliteNetSec · 2026-09-09
- Polymarket 显示美国 2026 年底前立法管 AI 概率仅 9% — Polymarket · 2026-09-09
- 分析：Poke 走在钢丝上，读 iMessage 的 AI 产品平台风险巨大 — signulll · 2026-09-09