多卡集群本地并发跑满多款开源大模型，性能数据曝光
Any-Lingonberry7411 · reddit · 2026-08-07
一位开发者展示了其用于智能体编程（Agentic Coding）的豪华多卡本地集群，并分享了并发运行多个开源大模型的实测性能。
- 硬件配置：主机搭载 RTX 6000 Pro Blackwell (96GB) + 2x RTX 5090 + 1x RTX 4090 + 3x AMD R9700，辅以 96GB 内存；另配备 Strix Halo 笔记本与 RTX 3090 主机作为辅助。
- 并发表现：可在主机同时运行 DeepSeek-V4-Flash (45 t/s)、GLM-4.7-flash (20 t/s)、Gemma-4-12B (25 t/s) 等多个模型。若集中算力，可跑起 GLM-5.2 或 Kimi-K2.7-Code。
- 当前痛点：作者表示目前很难在“快速执行者”与“深度思考者”之间无缝切换，频繁换模型导致显存驱逐与缓存失效，严重拖慢效率，正在寻求升级建议。
「编程与Agent」频道最新
- DHH 深圳行：Omarchy Meetup 超 400 人报名，小米高管现场演示 — LoganGrasby · 2026-10-16
- shadcn 转发 ShadHub：GitHub Registry 目录站上线，可即时提交收录 — shadcn · 2026-10-16
- Sarvam 联手 Figma:基于 Indus 的 Agent 可经 MCP 直接在 Figma 里做设计 — itsOmSarraf_ · 2026-10-16
- 独立开发者给 Mac VM 应用加 MCP：让 agent 搞坏一次性克隆而非真机 — ScholarBackground836 · 2026-10-16
- ComfyUI 拖拽失效排查：第三方节点包劫持 drop 事件 — Inside_Chocolate_967 · 2026-10-16
- 为什么别人家的AI很强你的很拉：Agent四件套拆解 — yangyi · 2026-10-16