多智能体并行的吞吐基准实测
BringTea_666 · reddit · 2026-07-12
这条帖子分享了一个针对 **OpenCode / agent 并行** 的实测：在 **RTX 5090** 上，用 **LM Studio** 跑 **Qwen 3.6 35B**，把并行任务数从 1 提到 8，观察吞吐、效率和显存压力的变化。 ### 主要结论 - **总吞吐并不是线性增长**：8 个 agent 的总吞吐只有单 agent 的约 **2.2 倍**，不是 8 倍。 - **单个 agent 速度明显下降**：从约 **256 t/s** 降到 **67 t/s**。 - **边际收益递减**：5 个 agent 之后，继续加并发带来的收益很小，但资源消耗持续上升。 ### 作者给出的建议 - **最佳区间是 4–5 个 agent**： - 4 个 agent：约 **434 t/s**，效率较均衡。 - 5 个 agent：约 **470 t/s**，接近总吞吐峰值。 - 超过 5 个 agent 后，VRAM 压力和上下文/KV cache 开销会快速上升，但吞吐提升不明显。 ### 额外观察 - 每个 agent 都会占用自己的完整上下文窗口。 - 并发时，**KV cache 和计算切分** 才是主要瓶颈。