Intrinsec AI:用推理引擎自带的 KV Cache 检测 Agent 攻击

AI Engineer · youtube · 2026-11-09

Intrinsec AI 创始人 Ari Azarafrooz 在 AI Engineer CODE 峰会上展示：推理引擎本就写出的 KV cache 可以兼作 AI agent 的安全信号，不必只为输入输出加 judge 模型或各类分类器。

方法是从正常流量学习基线，标记异常的 KV 页，甚至能抓住语音留言里隐藏的口头指令——这类攻击没有文本可供过滤。演讲覆盖与 vLLM、SGLang、LMCache、llm-d、NVIDIA Dynamo 等栈的接入点，以及生产中的两大难点：模型持续变更、KV 数据太大难以实时搬运。