NVIDIA 发布 Personal AI Router，局域网闲置算力统一调度
AccBalanced · x · 2026-09-05
NVIDIA 在 IFA 上发布了 PAIR（Personal AI Router），可将局域网内的多台 AI 设备组成统一推理池。
- 自动发现局域网中的 DGX Spark、RTX 电脑和 M4 以上 Mac，把 Ollama、LM Studio 等接入同一个本地 Endpoint，Agent 请求自动分配给空闲机器。
- 提示词、文件与 Agent 上下文全部留在本地网络，不上传云端。
- 作者实测视角：简单任务给 Mac、小模型高并发给 RTX、大模型给 DGX Spark，家庭闲置算力得以统一调度。
- 注意边界：PAIR 只做跨设备请求路由，每台机器独立推理，不会合并显存成虚拟 GPU，也替代不了 DGX Spark 之间的 TP2 直连。
所属事件:NVIDIA 发布开源 PAIR：家庭设备组成本地推理集群(7 条相关)→
「Infra」频道最新
- PyTorch 官方详解 IBM Spyre 后端：KTIR 与数据流调度器如何跑通 AI 加速器 — PyTorch · 2026-10-21
- 独立开发者用 YAML 流水线+Spot GPU+vLLM 把 AI 账单大幅砍掉 — cmm324 · 2026-10-21
- DeepSeek 开源 V4.1-Flash 背后的推理引擎 DeepInfer — The Decoder · 2026-10-21
- 机器人推理平台上线 Deployments:可云端部署 HF 微调模型 — arnie_hacker · 2026-10-21
- 路透：字节阿里腾讯下单超300万块英伟达RTX PRO 5500，总价超350亿美元 — SumitGup · 2026-10-21
- TorchTPU 实测演示：vLLM 与 SGLang 统一后端跑 TPU 服务 — Rob_Mulla · 2026-10-21