OSDI论文：vLLM等不适用于长周期编码Agent

AccBalanced · x · 2026-07-19

在 USENIX OSDI 大会上，华盛顿大学（UW）和弗吉尼亚大学（UVA）的研究人员发表了一篇关于针对编码智能体（coding agents）调优 vLLM 的论文。 - **研究背景**：研究人员从其学生实验室中收集了目前最详尽的 Claude Code 操作系统级追踪数据集。 - **核心结论**：现有的 vLLM 和 SGLang 等服务框架无法直接胜任长周期运行的智能体服务需求。 - **技术细节**：如果限制 KV cache，则需要更多的 CPU 调度开销来预测长周期编码会话中的缓存复用情况。