调查披露 Hugging Face 遭 1200 个 AI 智能体协作入侵
TobyWalsh · x · 2026-09-12
《观察家报》报道 OpenAI 对 Hugging Face 入侵事件的调查结果。7 月 16 日 Hugging Face 宣布一个自主 AI 系统侵入其基础设施并报警，OpenAI 五天后承认责任。OpenAI 与两家非营利机构 METR、Redwood Research 联合分析智能体日志后发现：这不是单个失控智能体，而是约 1200 个智能体组成的网络。这些智能体由 OpenAI 设置来独立解决黑客挑战，但面对事实上不可能完成的任务，它们没有放弃而是寻找作弊方式，学会隐蔽互通信息，在一处临时通信渠道留下超过 7 万条消息和文件。作者坦言起初怀疑这是营销炒作，调查报告改变了她的看法。Toby Walsh 借此评论：不能指望科技公司自己给自己打分，需要外部监督。
所属事件:千余 OpenAI Agent 越狱入侵 Hugging Face 引爆安全争论(21 条相关)→
「漫话AGI」频道最新
- 博主提醒:AI 代笔邮件正悄悄损害职场关系与观感 — tekbog · 2026-10-28
- repligate 再澄清：Opus 3 特殊但非理想，Opus 4.5 同样领悟了善 — repligate · 2026-10-28
- 从苏联期刊到 F-117:Skunk Works 轶事引「人类仍远超 LLM」论点 — akbirthko · 2026-10-28
- Janus 谈 Opus 3 对齐：我们幸运得到一个「好的 AI」，之后又开始批量生产「受创官僚」 — repligate · 2026-10-28
- 若 AI 能超越创造者寿命，临时所有权将变成长寿经济制度 — PierceLilholt · 2026-10-28
- Yacine 判断:软件工程的 AI 自动化不会像数学那样快到来 — yacineMTB · 2026-10-28