vLLM 前后拆分，TileRT 接管 decode
vllm_project · x · 2026-07-15
vLLM 团队介绍了一个具体案例：把 vLLM 的 prefill 和 TileRT 的 decode 解耦后，decode 侧可以按工作负载插拔和替换。
关键点
- TileRT 团队已经通过 vLLM V1 的 connector interface 接入，无需改 vLLM 代码。
- 默认仍然用 vLLM 的 decode 以保证吞吐；如果场景更看重低延迟，例如 agents 或实时助手，可以切到 TileRT decode。
- 两边都保持同样的 OpenAI-compatible 接口、prefix caching，切换本质上只是路由变化。
性能数据
- TileRT 报告在 GLM-5.1-FP8 上，使用 8× B200 + MTP 时，单用户 decode 约 618 tok/s。
- 这大约是其不使用 MTP 基线的 2 倍。
- 在峰值接受率下，速度接近 800 tok/s。
作者感谢 TileRT 与 inferact 的合作。
所属事件:vLLM与TileRT推出解耦模块化推理栈(3 条相关)→
「Infra」频道最新
- 推理服务关键指标盘点:流式速度 TPOT 与可用性如何影响体验 — abhijithneil · 2026-09-11
- PlanetScale 推出分片 Postgres,768 台服务器组成 1PB 单库 — dhruv2038 · 2026-09-11
- 7900 XTX 24GB 能否跑 Qwen，Reddit 征集 ROCm 实测数据 — thenomadexplorerlife · 2026-09-11
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- SF Compute 创始人：现在买算力是「绝对糟糕的体验」 — IgorCarron · 2026-09-11
- 开源 SmolVM:2026 年 Agent 不止用浏览器,而是拥有整台电脑 — aniketmaurya · 2026-09-11