NVIDIA 发布开源 PAIR:家庭设备组成本地推理集群
NVIDIA 于 9 月 4 日(IFA 期间)发布免费开源工具 Personal AI Router(PAIR)测试版,定位为「个人 AI 集群的路由器」,是 AI on RTX 版图中的路由组件。它可自动发现局域网内可用的电脑,把独立的推理请求路由到有空闲算力的机器上,为运行多个推理服务器的用户提供统一入口做流量分发,免去自行编写路由逻辑。Perplexity CEO Arav Srinivas 转发称赞,认为业界需要此类工具。
已确认
- PAIR 为测试版,免费开源,支持 Windows/macOS/Linux
- 兼容 Ollama 和 LM Studio,并暴露 Ollama 兼容与 OpenAI 兼容端点
- 可自动发现局域网内的 RTX Windows 机器、DGX Spark 和部分 Mac(如 M4 以上机型),将其组成本地推理集群,追踪各节点支持的引擎与模型,并按各节点空闲算力调度请求
- 定位面向本地/自建推理场景,可在多台推理服务器之间分发流量,缓解本地运行 AI agent 时的算力与内存瓶颈
为什么重要
PAIR 让普通家庭网络中的闲置 GPU 算力被聚合利用,缓解本地运行 AI agent 时的算力与内存瓶颈,也显著降低了用户搭建多机推理集群的门槛。多位评论者(如 Arav Srinivas)认为这类工具正是业界所需。
2026-09-04 ~ 2026-09-05 · 7 条相关
一手来源
- Nvidia 推出 Personal AI Router,多推理服务器流量调度更省心 — DustNearby2848 ·
- NVIDIA 推出 PAIR 测试版,把家里 RTX、DGX Spark 和 Mac 组成本地推理集群 — BenBajarin ·
- 英伟达发布 PAIR:让家里多台电脑组成本地 AI 推理共享池 — techNmak ·
- 【源头】Nvidia 推出 Personal AI Router,多推理服务器流量调度更省心 — DustNearby2848 · 2026-09-04
- NVIDIA 推出 PAIR:把家里 RTX、DGX Spark 和 Mac 组成私有推理集群 — gekobraa · 2026-09-04
- NVIDIA IFA 发布 PAIR:局域网设备互联分担 agent 推理负载 — AravSrinivas · 2026-09-04
- NVIDIA 开源 PAIR 测试版:自动把本地 AI 推理分派到局域网多台电脑 — Codeblix_Ltd · 2026-09-04
另有 3 条近重复转述:BenBajarin · techNmak · AccBalanced