Yandex 发布《KV cache 即 agent 运行时》研究原文

arpit_bhayani · x · 2026-09-07

这是 arpitbhayani 对 Yandex KV cache 研究解读线程的补充,附上 Yandex Research 的原文《The KV cache as an agent runtime》。文章核心论点:交互性(在推理的同时持续接收新信息、修正轨迹、输出部分动作、协调感知/推理/行动等不同节奏的过程)是下一代 AI 系统的必答题,对游戏、机器人、实时视频、操作系统等持续变化的环境尤其不可避免。现有方案(Wan-Streamer、Thinking Machines Lab 的 Interaction Models 等)多依赖改模型——预训练、后训练、新数据格式、块因果注意力、流式编码器等;Yandex 则探索在不改动模型的前提下,仅通过共享与调度 KV-cache 状态,让预训练 LLM 并发地观察、推理与行动。