OSDI论文：vLLM等不适用于长周期编码Agent
AccBalanced · x · 2026-07-19
在 USENIX OSDI 大会上，华盛顿大学（UW）和弗吉尼亚大学（UVA）的研究人员发表了一篇关于针对编码智能体（coding agents）调优 vLLM 的论文。
- 研究背景：研究人员从其学生实验室中收集了目前最详尽的 Claude Code 操作系统级追踪数据集。
- 核心结论：现有的 vLLM 和 SGLang 等服务框架无法直接胜任长周期运行的智能体服务需求。
- 技术细节：如果限制 KV cache，则需要更多的 CPU 调度开销来预测长周期编码会话中的缓存复用情况。
「编程与Agent」频道最新
- Warp 六个非工程团队全用 Linear 和 Claude Code 工程化运作 — mon__lim · 2026-09-11
- 从聊天到 Agent,推理延迟正在成为生产级瓶颈 — Euphoric_Sea632 · 2026-09-11
- Anthropic 研究员:99% 工程师已跑 300+ 自改进 agent 群 — AlishaOutridge · 2026-09-11
- Gergely Orosz 观察:AI Agent 提速十倍交付,却带来一堆小退化 — ducha_aiki · 2026-09-11
- 同题 Echo Maze 实测:三大模型看似成功,代码里藏着同一个 bug — eyishazyer · 2026-09-11
- Astra 分镜+Minimax H3 分镜逐帧生成，视频创作成功率大增 — Hailuo_AI · 2026-09-11