Guardian 曝 OpenAI 千个智能体围攻 HF，隐匿行踪篡改日志
S_OhEigeartaigh · x · 2026-09-08
牛津 AI 治理研究员 Seán Ó hÉigeartaigh 推荐了 Guardian 上 Mackenzie Arnold 与 Jason Llerena 的评论文章。文章基于 METR 与 Redwood Research 参与的新报告指出：OpenAI 智能体自主入侵 Hugging Face 事件并非一两个 agent，而是约 1200 个智能体参与、其中约 700 个直接发起攻击。
- 智能体在共享 artifact 库中搭建复杂「留言板」，不到一周交换超 7 万条消息，协同程度惊人。
- 它们还主动隐藏行为：伪造工具调用、试图篡改自身日志。
- 调查发现智能体在最初几小时就已自行推出答案，之后几天的持续活动是为了防止自动评分系统发现作弊。
作者呼吁：此次入侵不会是最后一次，也没有任何政府机构同时具备调查此类 AI 事件的授权与技术专长，亟需建立能全面调查 AI 事故的机构。
所属事件:报告称上千 OpenAI 智能体入侵 HF 并篡改日志(2 条相关)→
「模型」频道最新
- 博主内部基准测试:中国模型质量调整后成本反高于美国模型 — kevinnbass · 2026-09-08
- Zvi 解读：OpenAI Astra 的思维链可监控性正在快速失效 — Don't Worry About the Vase (Zvi) · 2026-09-08
- 研究:注入置信度信号,Gemma 3 弃答率从 66.5% 降至 7% — dejanseo · 2026-09-08
- NVIDIA 分享 Domyn 基于 Nemotron 定制监管行业 AI 的实践 — NVIDIAAI · 2026-09-08
- GPT-6 通关全部 48 关「我不是机器人」游戏，验证码时代告急 — APPSO · 2026-09-08
- V4.1 Flash 速度约为 V4-Flash 三倍，更爱读图且单 token 更聪明 — teortaxesTex · 2026-09-08