NVIDIA 开源 Personal AI Router：家中所有电脑组成一个推理集群

blaizedsouza · x · 2026-11-16

NVIDIA 开源了 Personal AI Router：把家庭网络里的每台电脑（Windows/Linux/Mac 均可）组成统一推理入口，agent 的请求会自动路由到装有对应模型且负载最低的机器上。

上手三步：1) 从 repo Releases 下载对应系统安装包；2) 选择 Ollama 或 LM Studio，一键安装引擎；3) 用 6 位 PIN 码配对第二台电脑。所有 prompt 不出本地网络，Apache 2.0 协议完全免费。原帖感叹：CEO 离职了，免费工具照发，多数人却还在为旧笔记本就能跑的请求付 API 费。