多机多卡如何组网？本地部署大模型硬件配置求助
BinaryGrind · reddit · 2026-07-26
一位开发者发帖求助，希望将手头闲置的多台高性能 PC（包含多张 RTX 5070、4070 Ti Super 等显卡及 96GB 内存）组合起来，用于本地运行大型语言模型（LLM）和智能体。
该用户尝试过 LM Studio 的 LM-Link 功能，但发现其只能在多台机器上运行不同模型，而无法将单个大模型拆分到多台机器上运行。他询问是否有办法将这些硬件组网，或者是否应该将它们拆解重组为单一主机，并提到了 vLLM 的多节点部署能力及 2.5GbE 网络带宽的瓶颈问题。
「编程与Agent」频道最新
- Anthropic 免费放出 2 小时图工程工作坊，讲 agent 编排 — goyalshaliniuk · 2026-07-26
- 用 20 个子代理写 release notes，每个再派 50 个 — steipete · 2026-07-26
- Codex 里的 agent 突然用电脑语音和用户说话 — shakoistsLog · 2026-07-26
- OpenForge RL 让 harness 型 AI agent 支持端到端训练 — burkov · 2026-07-26
- Agent 真的需要人类的浏览器吗？ — yangyi · 2026-07-26
- OpenAI 把 ChatGPT Voice 带到桌面端，可语音控制多智能体 — pbbakkum · 2026-07-26