开发者用 DGX Spark 26 小时蒸馏 DeepSeek V4 Flash
日本开发者 taroleo 分享了一次完整的本地蒸馏实践:在 DGX Spark 上耗时约 26 小时,将权重高达 157GB 的 DeepSeek V4 Flash 的判断能力蒸馏进一个 4B 参数的小模型,蒸馏后单次判断仅需约 22 毫秒。该实验展示了在本地硬件上压缩大型模型能力的可行路径,引发社区对轻量化部署的关注。
2026-09-19 ~ 2026-09-20 · 2 条相关
- DGX Spark 上花 26 小时蒸馏 DeepSeek V4 Flash,4B 小模型单次判断仅 22ms — Dan_Jeffries1 · 2026-09-19
另有 1 条近重复转述:alexcovo_eth