英伟达发布 PAIR:让家里多台电脑组成本地 AI 推理共享池

techNmak · x · 2026-09-05

英伟达推出 Personal AI Router(PAIR),一个本地推理路由器,可让同一局域网内的多台 PC/Mac 组成小型共享服务池:它自动发现参与机器、追踪各节点支持的引擎与模型,暴露 Ollama 兼容和 OpenAI 兼容端点,并根据可用性与当前负载把每个推理请求路由到合适的节点。

注意其边界:调度器目前主要结合排队任务和平滑后的 GPU 利用率信号,优先选择已有目标模型的节点;PAIR 不做显存合并、不跨机分片模型、也不拆分单个推理请求。适合想把家里闲置算力利用起来的本地部署玩家。

所属事件:NVIDIA 开源 PAIR 测试版,把家庭设备组成本地推理集群(6 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →