NVIDIA 携手微软发力本地 AI：新推理提速 1.9 倍，RTX Spark 十月上市
NVIDIA Blog · rss · 2026-09-04
NVIDIA 在 IFA 2026 宣布一揽子本地 AI 布局，联合微软及合作伙伴让智能体更易在本地 NVIDIA 硬件上部署运行。
主要发布：
- Hermes Agent、OpenClaw、Perplexity Portable Computer 将提供简化的本地模型一键设置（基于 llama.cpp + NVIDIA 推理优化）
- llama.cpp 在 RTX 5090 上吞吐提升最高 1.9 倍，vLLM 在 RTX PRO 6000 Blackwell 提升 1.2 倍、双 DGX Spark 集群最高 1.4 倍，已通过 LM Studio 和 Ollama 可用
- NVIDIA PAIR（Personal AI Router）：免费开源工具，自动发现局域网内兼容 PC 并分发 AI 推理任务
- RTX Spark Windows PC 十月上市，联想、宏碁推出新品；EA、Embark、Ubisoft 等将大作带入 RTX Spark
8 月本地模型动态：Nemotron 3.5 Lightning（30B）、Z.ai GLM-5.3-Flash、Qwen3.8 系列、LTX 2.5 视频模型、MiniMax-H3（含 FastH3 四步蒸馏提速 7 倍）、Meta Muse Glimmer（30B 编程/智能体）、DeepSeek v4 Flash（284B MoE，激活 13B，可跑双 DGX Spark 集群）等均针对 NVIDIA 本地硬件优化。
Perplexity Portable Computer 支持 24GB+ VRAM 的 RTX GPU 本地跑完整工作流，敏感数据不出设备，需要时可升级至云端 15+ 前沿模型。
「Infra」频道最新
- 企业 token 支出增速从 42% 骤降至 0.2%,超大规模厂商 ROIC 跌至 20% — SumitGup · 2026-10-21
- 高通全球裁员转战 AI 数据中心：目标 2027 年 50 亿美元营收 — rohanpaul_ai · 2026-10-21
- vLLM 登台 PyTorchCon 2026：跨 TPU、AMD、NVIDIA 优化 KV cache 与内核 — PyTorch · 2026-10-21
- antirez 尝试用 DeepSeek Infer 为 DGX Spark 优化 DwarfStar 内核 — antirez · 2026-10-21
- 三进制 2-bit 端侧模型 Ternary-Bonsai-2-9B 上架 HF,支持视觉输入 — prism-ml · 2026-10-21
- GPU 管预填、Positron 管解码:异构推理组合瞄准内存带宽瓶颈 — cneuralnetwork · 2026-10-21