32k 上下文只跑得动 8 个本地 agent,Reddit 求多智能体实用场景

Ambitious_Fold_2874 · reddit · 2026-09-25

Reddit 用户分享本地多 agent 部署的算力账:在 vLLM 上跑 Qwen3 27B(nvfp4 量化)即使用到最大上下文,也只能支撑约 8 个各占 32k 上下文的并发 agent,认为这个规模偏小。发帖人想了解大家在多 agent 框架里找到了哪些真正有用的场景。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →