Yandex 研究:KV cache 可作 agent 实时运行时

Yandex Research 发布研究《The KV cache as an agent runtime》,提出把 KV cache 从单纯的推理加速手段变成模型的「主动记忆运行时」:在不改动模型权重的前提下,直接修改模型的推理状态,让 LLM 获得更强的交互能力与更快的响应速度。团队基于此前 Hogwild 系列论文的思路做了演示,让 Qwen3.8 以交互方式运行经典游戏 DOOM,arpitbhayani 等开发者也对论文进行了解读传播。

2026-09-07 ~ 2026-09-07 · 3 条相关