开发者用 DGX Spark 26 小时蒸馏 DeepSeek V4 Flash

日本开发者 taroleo 分享了一次完整的本地蒸馏实践:在 DGX Spark 上耗时约 26 小时,将权重高达 157GB 的 DeepSeek V4 Flash 的判断能力蒸馏进一个 4B 参数的小模型,蒸馏后单次判断仅需约 22 毫秒。该实验展示了在本地硬件上压缩大型模型能力的可行路径,引发社区对轻量化部署的关注。

2026-09-19 ~ 2026-09-20 · 2 条相关

另有 1 条近重复转述:alexcovo_eth