单卡 RTX 5090 跑 5 个本地 Agent:架构求喷引出三处真实痛点

jasonrodd3 · reddit · 2026-10-19

作者征求对自己本地多智能体架构的批评意见:在 RTX 5090(32GB)上跑 5 个分工 Agent(协调者+研究/编码/记忆/写作),LangGraph 编排、supervisor 模式、星型拓扑禁止 Agent 互聊。模型分层:Qwen3:32b 当协调者,14b/8b 当工人,全部走 Ollama;记忆用 SQLite+Qdrant,Agent 显式写记忆而非后台抽取;Telegram 做界面。作者列出三个不确定点:①32GB VRAM 同时装 32b+小模型是否勉强够用,多模型同卡的真实开销;②显式写记忆是否会导致 Agent 实际执行不一致,对比抽取式管道的踩坑经验;③LangGraph 在 Windows 生产环境的坑。