英伟达发布 PAIR:让家里多台电脑组成本地 AI 推理共享池
techNmak · x · 2026-09-05
英伟达推出 Personal AI Router(PAIR),一个本地推理路由器,可让同一局域网内的多台 PC/Mac 组成小型共享服务池:它自动发现参与机器、追踪各节点支持的引擎与模型,暴露 Ollama 兼容和 OpenAI 兼容端点,并根据可用性与当前负载把每个推理请求路由到合适的节点。
注意其边界:调度器目前主要结合排队任务和平滑后的 GPU 利用率信号,优先选择已有目标模型的节点;PAIR 不做显存合并、不跨机分片模型、也不拆分单个推理请求。适合想把家里闲置算力利用起来的本地部署玩家。
所属事件:NVIDIA 开源 PAIR 测试版,把家庭设备组成本地推理集群(6 条相关)→
「Infra」频道最新
- ChatGPT/Claude/Grok 同宕机后,网友晒出三机全本地 AI 家庭实验室 — cocktailpeanut · 2026-09-05
- DRAM 密度曲线已趋平:服务器内存 5 年停在 8TB,CXL 成破局关键 — lauriewired · 2026-09-05
- 16GB 显存实测 21 个 Qwen3.8-27B 量化版,bartowski IQ4_XS 夺冠 — Storterald · 2026-09-05
- Nvidia DLSS 5 帧插值在 Stable Diffusion 社区引热议 — KonoTheSavage1 · 2026-09-05
- Dylan Patel 做客 Dwarkesh 播客:马斯克如何玩转算力市场 — Dwarkesh Patel · 2026-09-05
- MiniMax 联手 Together AI 伦敦办活动,聚焦开源模型生产经济学 — MiniMax_AI · 2026-09-05