NVIDIA IFA 2026 集中发力本地 AI:推理提速 1.9 倍、PAIR 空闲电脑组网
AWS ML Blog · rss · 2026-09-04
NVIDIA 在 IFA 2026 联合微软及伙伴集中宣布本地 AI 生态进展:
- 推理提速:llama.cpp 在 RTX 5090 上最高提升 1.9 倍吞吐,vLLM 在 RTX PRO 6000 上提升 1.2 倍、双 DGX Spark 集群提升 1.4 倍,均可在 LM Studio 和 Ollama 中使用。
- NVIDIA PAIR:免费开源的 Personal AI Router,自动发现局域网内兼容 PC 并将 AI 推理任务分发到多台空闲电脑。
- 本地 agent 一键化:Hermes Agent、OpenClaw(GitHub 最大 AI 项目,38 万 star)和 Perplexity Portable Computer 将支持在 Windows 上一键配置本地模型;Portable Computer 可本地跑完整工作流,需要时按权限升级到 15+ 云端前沿模型。
- RTX Spark 硬件:10 月上市联想、宏碁新机。
- 本地可跑的新模型:Nemotron 3.5 Lightning(30B)、GLM-5.3-Flash(MoE)、Qwen3.8-Flash-Next 与 Qwen3.8-27B、LTX 2.5 视频、MiniMax-H3 及 FastH3(4 步蒸馏提速 7 倍)、Meta Muse Glimmer(30B)、DeepSeek v4 Flash(284B MoE,13B 激活,双 DGX Spark 可跑)。
「具身」频道最新
- 斯坦福 T2-z:机器人戳一下桌面,任务成功率从 34% 提到 73% — stanfordnlp · 2026-10-21
- Snap 请小罗伯特·唐尼出任首席客户体验官,借钢铁侠人设推销 Specs AR 眼镜 — adariostrange · 2026-10-21
- 李飞飞团队发布 FACT:力觉感知的机器人灵巧操作基础模型 — stanfordnlp · 2026-10-21
- 研究者预告新论文:大模型延迟可满足机器人实时任务 — ManlingLi_ · 2026-10-21
- 智能体+具身 AI+游戏方向新项目获业内推荐 — ZeeshanZiaML · 2026-10-21
- NVIDIA 开源机器人数据引擎 Flora,成本仅 GPT-6 Astra 的 1/125 — DrJimFan · 2026-10-21