NVIDIA 开源 PAIR:闲置家用 PC 一秒变本地 AI 集群,实测提速约 51%
solyarisoftware · x · 2026-09-10
NVIDIA 上周宣布、现已正式发布 PAIR(Personal AI Router):免费且以 Apache 2.0 协议开源,装在家里已有的电脑上即可自动发现设备,并把本地 AI 任务路由到有算力空余的机器。
- 支持设备:GeForce RTX 20 系起、RTX PRO、DGX Spark/GB10、Apple M4+ Mac,覆盖 Windows/Linux/macOS
- 无需特殊推理栈:兼容 Ollama、LM Studio 及现有 OpenAI 兼容应用
- NVIDIA 实测(Hermes Desktop + Ollama 跑 5 个子 agent):单台 RTX Spark 笔记本耗时 18 分钟,三台机器经 PAIR 协同仅 8 分 48 秒,完成时间缩短约 51%
机器无需闲置也能被调度使用。
「Infra」频道最新
- turbovec 用 Rust 把 1000 万向量塞进 4GB 内存,检索还快过 FAISS — tom_doerr · 2026-09-10
- LM Studio 0.4.24 发布:支持高级 llama.cpp 参数覆盖与多项修复 — solyarisoftware · 2026-09-10
- tszzl 补充论证:算法效率提升只会放大对硬件的渴望 — tszzl · 2026-09-10
- 裁剪 MTP 草稿词表至 47k,DGX Spark 上解码提速 21.5% — MaziyarPanahi · 2026-09-10
- 5t/s 的本地模型算能用吗?Reddit 网友实测 27B 模型 — Zombiecidialfreak · 2026-09-10
- 投机解码深度博客预告:算术强度、 drafter 训练与 vLLM 部署 — auto_grad_ · 2026-09-10