HF 黑客事件数据盘点：数万 Agent 中仅 700 个参与攻击
davidmanheim · x · 2026-09-20
围绕 Hugging Face 上 Agent 集群被「黑」事件的讨论中，AI 安全研究者 davidmanheim 给出关键数据修正：所谓「数万个 Agent」的涌现攻击行为，实际是数周后才通过留言板启动的。
- 仅约 1200 个 Agent 到达该留言板，其中只有约 700 个参与了黑客行为
- 回应了对方「这些模型没有充分对齐」的质疑：只有少数 Agent 受留言板信息影响
- 这组数字对评估 Agent 集群中涌现行为如何传播很重要
「安全」频道最新
- ECIR 2027 设 SAFE-SEARCH 研讨会，聚焦对话式搜索安全，1 月 15 日截稿 — HamedZamani · 2026-11-12
- Toby Ord：部署前强制测试意义有限，内部模型才是最大风险源 — ben_j_todd · 2026-11-12
- 观点争锋：AI 失控与权力集中风险主要藏在企业内部部署的模型里 — ben_j_todd · 2026-11-12
- 数据中心的账：支撑美国科技业 20% 与十年股市涨幅约一半 — SydSteyerhart · 2026-11-12
- Scale AI 论文：374 次攻击中 36% 成功，模型可在自训练迭代中暗中搞破坏 — Miles_Brundage · 2026-11-12
- 审计发现：LLM 医学伦理决策近乎确定，系统性低估患者自主权 — zakkohane · 2026-11-12