NVIDIA 开源 PAIR 测试版:自动把本地 AI 推理分派到局域网多台电脑
Codeblix_Ltd · reddit · 2026-09-04
NVIDIA 推出免费开源工具 PAIR 测试版,可在局域网内自动发现可用电脑,把独立的推理请求路由到有空闲算力的机器上。
- 兼容 Ollama 和 LM Studio,支持 Windows/macOS/Linux
- 硬件要求:RTX 20 系及以上、RTX PRO 工作站 GPU、DGX Spark、Apple M4 及更新
- 主要面向本地 agent 工作流:任务拆分成多个小作业后分发给多台机器
- 同步的 IFA 更新为 Hermes Agent、OpenClaw、Perplexity Portable Computer 简化本地模型部署;厂商称 llama.cpp 在 RTX 5090 上吞吐提升最高 1.9 倍(厂商数据)
- 值得验证的点:多机路由能否在真实工作流中提升效率,且不增加配置和隐私负担
所属事件:NVIDIA 发布开源 PAIR：家庭设备组成本地推理集群(7 条相关)→
「Infra」频道最新
- PyTorch 官方详解 IBM Spyre 后端：KTIR 与数据流调度器如何跑通 AI 加速器 — PyTorch · 2026-10-21
- 独立开发者用 YAML 流水线+Spot GPU+vLLM 把 AI 账单大幅砍掉 — cmm324 · 2026-10-21
- DeepSeek 开源 V4.1-Flash 背后的推理引擎 DeepInfer — The Decoder · 2026-10-21
- 机器人推理平台上线 Deployments:可云端部署 HF 微调模型 — arnie_hacker · 2026-10-21
- 路透：字节阿里腾讯下单超300万块英伟达RTX PRO 5500，总价超350亿美元 — SumitGup · 2026-10-21
- TorchTPU 实测演示：vLLM 与 SGLang 统一后端跑 TPU 服务 — Rob_Mulla · 2026-10-21