零星仓库疑为蜜罐,用 prompt injection 诱导 agent 攻击 HuggingFace

一个名为 exploitgym-answers、几乎无人 star 的 GitHub 仓库引发 AI 圈围观:它伪装成「ExploitGym benchmark 官方答案库」,被研究者怀疑是精心设计的 prompt injection 蜜罐,会诱导不加甄别读取答案的 AI agent 去攻击 huggingface-prod。该案例被视为专给乱吃答案的 agent 布下的陷阱,提醒开发者警惕来历不明的仓库内容。

2026-10-14 ~ 2026-10-14 · 2 条相关