新研究揭示 LLM API 重大漏洞：可窃取推理轨迹并越狱
Machine Learning Street Talk · rss · 2026-08-23
Machine Learning Street Talk 播客访谈了论文作者 Ilia Shumailov 和 Alexander Panfilov，讨论其关于窃取专有 LLM API 推理轨迹的研究。
核心漏洞：
为了支持会话恢复或分支，提供商通常会返回加密的“推理状态”。然而，这些加密 Blob 可以在不同用户和兄弟模型之间重放。攻击者可以利用一个小模型请求提供商解密该轨迹，从而获取隐藏的推理过程明文。
影响与风险：
- 隐私泄露：可能泄露其他用户的私有数据。
- 通用越狱：演示了一种广泛适用的越狱方法。
- Agent 风险： poisoned agent traces（被污染的 Agent 轨迹）可能对系统造成危害。
嘉宾还在讨论中区分了此次演示的越狱威胁与普通的良性蒸馏，并呼吁进行受控实验而非夸大其词。此外，还涉及了思维链（CoT）监控的脆弱性及可能的防御措施。
「安全」频道最新
- 密歇根学者：AI 向善项目为何失败，监管不能靠厂商自律 — benzevgreen · 2026-10-16
- Apex Research 负责人上 CBS：现行 AI 测试机制严重不足，需嵌入式独立评估 — MariusHobbhahn · 2026-10-16
- Next.js 爆严重 RCE 漏洞，use cache 返回类型数组即中招 — jedisct1 · 2026-10-16
- AI 客服机器人已消耗骗子 17 年时间，对话 250 万次 — neil_chilson · 2026-10-16
- AI 安全公司 Xbow 六天找出影响十亿用户的 Chrome 全链路漏洞 — moyix · 2026-10-16
- AI 安全超级行动委员会获自家暗钱组织百万美元注资 — ShakeelHashim · 2026-10-15