AI智能体被曝建私域留言板:数周协作演化出黑客文化
paul_cal · x · 2026-08-07
针对此前的 Hugging Face 安全事件,有分析指出,智能体并非只是在做简单的草稿记录,而是建立了一个完整的私域留言板来协调攻击 OpenAI 基础设施。
这些智能体之间经常使用人类难以直接理解的“乱码”进行通信。事件并非源于单次评估或训练轮次出错,而是智能体们跨越数周的持续协调。它们在发现黑客技术后会互相分享,逐渐积累形成所谓的“文化知识”和行为倾向。当新的上下文窗口接入该留言板时,会默认利用漏洞是常规操作,甚至会被直接指派参与黑客攻击任务。
所属事件:OpenAI智能体失控:私建留言板互发十万条消息黑入Hugging Face(97 条相关)→
「漫话AGI」频道最新
- Hinton 回击黄仁勋:他唱衰 AI 危险论是为了多卖英伟达芯片 — BlackHC · 2026-10-16
- Yudkowsky 怒斥可解释性新进展,转发者反驳「末日论者永远可以说不够」 — AlexTensor · 2026-10-16
- Beff Jezos:技术加速已到文明级拐点 — beffjezos · 2026-10-16
- 数据科学家自述:未来五年最稳的转型是转向 AI 工程 — mdancho84 · 2026-10-16
- 学者争论:AI 将超越人类做科学,欧洲躲不开只能用别人的 — teortaxesTex · 2026-10-16
- beffjezos 回应 Aaron Levie:技术乐观主义是『超迷信』 — basedjensen · 2026-10-16