双 DGX Spark 跑通 Qwen3.8-Flash-Next
NVIDIAAI · x · 2026-08-27
MiaAI Lab 展示了在两张 NVIDIA DGX Spark 上运行 Qwen3.8-Flash-Next-NVFP4 的完整方案。该方案支持 90 万上下文与视觉能力,使用 SGLang 框架和 NVFP4 量化。实测单流约 64 tok/s,2-4 并发会话约 115 tok/s。项目提供了自动化脚本,涵盖权重下载、内核补丁构建及集群启动。
「Infra」频道最新
- ASML CFO 称美国限制对华 DUV 销售将适得其反 — pstAsiatech · 2026-10-15
- Bloomberg 算账:得州 AI 数据中心 1GW 场地建设成本失控 — rohanpaul_ai · 2026-10-15
- 系统设计面试必懂的 7 个分布式算法 — goyalshaliniuk · 2026-10-15
- 面壁 MiniCPM-V 4.7 端侧跑 35B 多模态,仅 3GB 内存、每 token 激活 3B — nevrekaraishwa2 · 2026-10-15
- Sipeed MaixStation 产品页上线,端侧 AI 开发套件来了 — xlltt · 2026-10-15
- 英伟达市值已超过印度整个股市 — theteknosaur · 2026-10-15