NVIDIA 发布 Personal AI Router,局域网闲置算力统一调度
AccBalanced · x · 2026-09-05
NVIDIA 在 IFA 上发布了 PAIR(Personal AI Router),可将局域网内的多台 AI 设备组成统一推理池。
- 自动发现局域网中的 DGX Spark、RTX 电脑和 M4 以上 Mac,把 Ollama、LM Studio 等接入同一个本地 Endpoint,Agent 请求自动分配给空闲机器。
- 提示词、文件与 Agent 上下文全部留在本地网络,不上传云端。
- 作者实测视角:简单任务给 Mac、小模型高并发给 RTX、大模型给 DGX Spark,家庭闲置算力得以统一调度。
- 注意边界:PAIR 只做跨设备请求路由,每台机器独立推理,不会合并显存成虚拟 GPU,也替代不了 DGX Spark 之间的 TP2 直连。
所属事件:NVIDIA 开源 PAIR 测试版,局域网设备组成本地推理集群(7 条相关)→
「Infra」频道最新
- SGLang 深度解析 Breakable CUDA Graph:预填充图构建快 3.8–5.2 倍 — hsu_byron · 2026-09-05
- Jason 拿《The New Kingmakers》佐证:免费 token 正重塑算力格局 — AccBalanced · 2026-09-05
- GPU 并行沙箱:递归自我改进的算力原语 — AAAzzam · 2026-09-05
- SemiAnalysis 联手 vLLM 推出 AgentX 基准,直测多轮长上下文 Agent 流量 — AccBalanced · 2026-09-05
- Zilliz CTO 解读 Notion 向量基建两年史:成本峰值后降 90% — J_Luan_ · 2026-09-05
- 36B 参数 MoE 开源模型上线:仅 4B 激活即可本地跑 — rupspace · 2026-09-05