32k 上下文只跑得动 8 个本地 agent,Reddit 求多智能体实用场景
Ambitious_Fold_2874 · reddit · 2026-09-25
Reddit 用户分享本地多 agent 部署的算力账:在 vLLM 上跑 Qwen3 27B(nvfp4 量化)即使用到最大上下文,也只能支撑约 8 个各占 32k 上下文的并发 agent,认为这个规模偏小。发帖人想了解大家在多 agent 框架里找到了哪些真正有用的场景。
「编程与Agent」频道最新
- LlamaParse 解析美联储点阵图,九个数字零误差 — llama_index · 2026-09-25
- 微软重构 Copilot 为超级应用,Autopilot 常驻 agent 跨接 MCP — rohanpaul_ai · 2026-09-25
- 实测证明 RAG 分不清反义句,好模型不可替代 — galratner · 2026-09-25
- AI Engineer Paris 演讲:用 /pr 与 /retro 让 PR 审得更快 — mattpocockuk · 2026-09-25
- T-REX:用 LLM 智能体编排去 novo 蛋白质结合剂设计的开源控制器 — ArashVahdat · 2026-09-25
- 一次删掉 6 万行测试:模型写的单元测试多是无效噪音 — alexcovo_eth · 2026-09-25