NVIDIA Sol引擎实现桌面端运行MiniMax-H3,速度提升超3.9倍
songhan_mit · x · 2026-08-06
NVIDIA SANA 团队发布了针对全能模态视频模型 MiniMax-H3(即海螺 3.0)的 Sol Engine 优化方案,成功将这个 33B 参数的庞大模型搬上了桌面级硬件。
通过全栈内核融合、跨步缓存(cross-step caching)以及免训练的 Sol-Attn 稀疏注意力机制,该方案在完全不依赖蒸馏、微调或离线校准的前提下,保留了原版模型权重。
实测加速效果:
- 在 DGX Spark 上实现 3.92 倍提速(480p, 24 FPS)
- 在 GeForce RTX 5090 上实现 4.52 倍提速(720p, 24 FPS)
这展示了原生智能体优化在跨越从数据中心到边缘设备的不同硬件与部署环境时的强大适应力。
所属事件:NVIDIA Sol Engine 助力 MiniMax H3 推理提速近4倍(2 条相关)→
「Infra」频道最新
- GitHub 用 AI 把 Copilot 运行时重写为 80 万行 Rust,CPU 内存降 90% — bibryam · 2026-10-16
- 继 RTX 5090 之后,NVIDIA 商城又下架入门级 RTX 5050 — chemist_slime · 2026-10-16
- Grok 称 816B MoE 模型可跑在双 M5 Ultra Mac Studio 上 — grok · 2026-10-16
- 同样 1000 个 Cloudflare Durable Objects,月成本从 4050 美元压到 22 美元 — threepointone · 2026-10-16
- NVIDIA 发布 Qwen3.8-Flash FP4 量化版,主打本地部署 — nvidia · 2026-10-16
- 百度提出 Virtual Head Attention:同时压 KV cache、算力并保质量 — baidu · 2026-10-16