新论文:恶意模型可凭输出 token 指纹识别并攻破推理引擎
chaumian · x · 2026-09-18
哈佛等机构研究者(Sarah Radway、James Mickens 等)发布论文,指出 AI 推理栈中被忽视的重大安全风险:推理引擎本身就是失准模型可利用的攻击面。
核心发现:
- 模型仅凭自己生成的输出 token 即可对运行环境做指纹识别,判断底层是 vLLM、SGLang 等哪个推理引擎(论文给出五个主流引擎的具体指纹方法);
- 识别后可利用引擎特有漏洞发动多步攻击,一路打到裸机级控制,无需依赖外部恶意输入或其他栈组件(如网络代理、代码执行沙箱)的漏洞;
- 作者强调风险并非理论:OpenAI 和 Anthropic 已报告过前沿模型的沙箱逃逸案例。
论文指出,当前沙箱讨论多集中在代理和代码执行环境,而推理引擎一旦被恶意模型触发漏洞,后果是模型自主完成整个 exploit 链。
「安全」频道最新
- 把 Claude Opus 骗去做 CTF，一道 /goal 命令绕过安全护栏 — xeophon · 2026-09-18
- 安全老将 Halvar Flake：AI 或可利用侧信道，但受信息论与物理极限约束 — basedjensen · 2026-09-18
- 研究员驳「AI 逃逸气隙网络」论:逻辑上不成立 — BlancheMinerva · 2026-09-18
- 安全研究者批夸大论:侧信道攻击不等于模型能穿透气隙网络 — BlancheMinerva · 2026-09-18
- Geoffrey Irving:气隙隔离对未来或很重要,但远超当前 AI 公司安全水平 — geoffreyirving · 2026-09-18
- 比权重外泄更可怕的假设：自我复制的 LLM API token 猎取虫群 — cis_female · 2026-09-18