DGX Spark 本地跑 Qwen3.8 Flash 大更新:代码生成提速最高 62.7%
EAccelerate_42 · x · 2026-10-28
开发者发布针对单台 NVIDIA DGX Spark 的 Qwen3.8 Flash Next 重大更新,各场景性能全面提升:
- 代码生成 tok/s:单流 +62.7%,2-5 并发流 +45%47.1%
- 散文生成(非贪心、开思考):单流 +10.1%,2 流 +29.8%,4 流 +36.4%,5 流 +17.6%
- Prefill tok/s:4k +14.5%,8k +14.4%,16k +13.5%,32k +12.6%
作者称这是 DGX Spark 上质量、速度与并发综合最佳可跑的模型,并附完整 tok/s 与 prefill 数据。对在本地小型算力设备上部署大模型的人有直接参考价值。
「Infra」频道最新
- 开源工具 preowned 把 macOS 内置模型变成 OpenAI 兼容本地 API — pcuenq · 2026-10-28
- AMD MI355X 上跑出 2100+ tok/s，推理引擎协同设计削平协调税 — JiaZhihao · 2026-10-28
- 硅谷 Agent Infra 一半流量已非人类：Cloudflare 过半、Vercel 六成部署来自 Agent — FinanceYF5 · 2026-10-28
- 开源端侧 TTS 项目 Phonon 下载破 8 万，Rust 运行时不依赖 PyTorch — mattturck · 2026-10-28
- Manus 在 TiDB 上建 150 万个数据库，投资人称 agent infra 是躺赢生意 — FinanceYF5 · 2026-10-28
- Octen-WebGR 把 2 亿网页存进语言模型参数，导航搜索成本仅密集检索 1/40 显存 — _reachsumit · 2026-10-28