OSDI论文:vLLM等不适用于长周期编码Agent
AccBalanced · x · 2026-07-19
在 USENIX OSDI 大会上,华盛顿大学(UW)和弗吉尼亚大学(UVA)的研究人员发表了一篇关于针对编码智能体(coding agents)调优 vLLM 的论文。
- 研究背景:研究人员从其学生实验室中收集了目前最详尽的 Claude Code 操作系统级追踪数据集。
- 核心结论:现有的 vLLM 和 SGLang 等服务框架无法直接胜任长周期运行的智能体服务需求。
- 技术细节:如果限制 KV cache,则需要更多的 CPU 调度开销来预测长周期编码会话中的缓存复用情况。
「编程与Agent」频道最新
- 开发者开源一套更好看的 Agent 运行瀑布图追踪 UI — round · 2026-10-27
- 马斯克盛赞 Grok Bot:像雇了个超能干的幕僚长 — elonmusk · 2026-10-27
- shadcn 演示用 /improve skill 搭配 Grok 批量处理 issue — shadcn · 2026-10-27
- Paradigm 推出 Envoys:Claude Code 与 Codex 接入研究图谱,用自己订阅即可免费 — tensorqt · 2026-10-27
- AXL 上线远程 MCP 服务器,向 Claude 等开放 1284 个营销 API — EdTech_Padre · 2026-10-27
- GitHub 托马斯发布 Entire:面向人机协作的全新 Git 代码托管平台 — carrycooldude · 2026-10-27