arXiv 论文:用 M-RoPE 偏移复用 KV 缓存,视频 LLM 编辑上下文延迟大降

RulinShao · x · 2026-11-23

论文《Editable Video Context: Mid-Context KV-Cache Reuse for Context-Managing Video LMs》将 CLM(模型可编辑自身上下文)与 Suffix Cache Reuse 扩展到视频语言模型:

代码、原始日志与复现脚本已开源。CLM 原作者 Rulin Shao 转发点评,认为 RL 或可教视频模型学会「看哪里」,并期待 vLLM/SGLang 原生支持视频缓存复用。

所属事件:视频 LLM 上下文编辑新方案:KV 缓存复用大幅降延迟(2 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →