NVIDIA 发力本地 AI：新 llama.cpp 优化提速 1.9 倍,RTX Spark 10 月上市
nordicinst · x · 2026-09-04
NVIDIA 在 IFA 2026 宣布多项本地 AI 进展：
- 推理提速：新的 llama.cpp 与 vLLM 优化带来最高 1.9 倍本地推理加速，可通过 LM Studio 和 Ollama 使用
- NVIDIA PAIR：个人 AI 路由工具，可智能把推理任务分发到局域网内多台 PC
- RTX Spark：联想、宏碁的紧凑型 Windows AI PC 10 月上市，EA、Embark、育碧等游戏厂商将作品带到该平台
- 本月新模型：30B 参数的 Nemotron 3.5 Lightning、Z.ai 的 GLM-5.3-Flash（MoE 多模态）、Qwen3.8-Flash-Next 与 Qwen3.8-27B 开源模型，均可在 DGX Spark/Station 等设备上本地运行
Hermes Agent、OpenClaw、Perplexity Portable Computer 等本地 agent 的 GPU 支持也将简化。
所属事件:NVIDIA 本地推理优化：RTX 5090 llama.cpp 提速 1.9 倍(3 条相关)→
「具身」频道最新
- 斯坦福 T2-z：机器人戳一下桌面，任务成功率从 34% 提到 73% — stanfordnlp · 2026-10-21
- 李飞飞团队发布 FACT：力觉感知的机器人灵巧操作基础模型 — stanfordnlp · 2026-10-21
- 研究者预告新论文：大模型延迟可满足机器人实时任务 — ManlingLi_ · 2026-10-21
- 智能体+具身 AI+游戏方向新项目获业内推荐 — ZeeshanZiaML · 2026-10-21
- NVIDIA 开源机器人数据引擎 Flora,成本仅 GPT-6 Astra 的 1/125 — DrJimFan · 2026-10-21
- SteerAct:仅操纵单一特征,真实机器人成功率 31% 升至 52% — liuzhuang1234 · 2026-10-21