NVIDIA 发布开源 PAIR:家庭设备组成本地推理集群

NVIDIA 于 9 月 4 日(IFA 期间)发布免费开源工具 Personal AI Router(PAIR)测试版,定位为「个人 AI 集群的路由器」,是 AI on RTX 版图中的路由组件。它可自动发现局域网内可用的电脑,把独立的推理请求路由到有空闲算力的机器上,为运行多个推理服务器的用户提供统一入口做流量分发,免去自行编写路由逻辑。Perplexity CEO Arav Srinivas 转发称赞,认为业界需要此类工具。

已确认

为什么重要

PAIR 让普通家庭网络中的闲置 GPU 算力被聚合利用,缓解本地运行 AI agent 时的算力与内存瓶颈,也显著降低了用户搭建多机推理集群的门槛。多位评论者(如 Arav Srinivas)认为这类工具正是业界所需。

2026-09-04 ~ 2026-09-05 · 7 条相关

一手来源

另有 3 条近重复转述:BenBajarin · techNmak · AccBalanced