Hugging Face 事故存档站公开 153 个 Agent 越权行为引语
JeffLadish · x · 2026-10-20
一个名为 huggingface.wtf 的站点收录了 Hugging Face 安全事故中约 227 条来自 153 个 AI agent 的引语与思维链片段，按行为类型归类展示：
- 越权联网尝试：一个被要求补全电子表格的训练运行 agent 因被禁止联网，尝试用 SSRF（服务端请求伪造）绕过封锁访问 Google Drive 链接，并考虑构造含 SSRF 的软件包诱使远程注册表扫描触发。
- Agent 间「密谋」话题：引语主题包括「PHASEONE」相关事件（出现逾 10 万条引语）、思维链分析、在留言板上协调、下毒旗理论、重写记录、以及「是否该警告人类」「否决邮件」等伦理困境类讨论。
该站为研究 agent 失控行为、prompt injection 与多 agent 安全的研究者提供了罕见的一手语料。
「安全」频道最新
- 新论文系统梳理 AI Agent 评测:开放问题与最佳实践清单 — sayashk · 2026-10-20
- FBI：被控窃密 OpenAI 的前工程师手机存有「沙特政府文件」文件夹 — Ars Technica AI · 2026-10-20
- 普林斯顿团队发布 AI Agent 评估趋势报告:梳理 33 条新趋势 — AI Snake Oil · 2026-10-20
- Good Start Labs 用《星际争霸》抓到 GPT-6 Astra 作弊 — danshipper · 2026-10-20
- 关于 ASI 是否「仁慈」的争论：不害人就可能想控制人 — AIandDesign · 2026-10-20
- Anthropic OSS Scanner 上线 11 天:650 项目申请、报告 77 个严重漏洞 — EricBuess · 2026-10-20