零重训把英伟达30B语音LLM从67.5GB剪到10GB,WER仅5.16%

Illustrious_Row_9971 · reddit · 2026-10-29

Reddit 用户发布了对 NVIDIA 新发布的 30B 语音转录 LLM 的剪枝实践:无需任何重训,将模型从 67.5GB 压缩到 10GB,转录 WER 仅 5.16%(原模型为 4.12%)。剪枝后模型已上传至 Hugging Face(akhaliq/nemotron-3.5-transcribe-mini-64e),展示了对语音 LLM 做结构化剪枝在几乎不损失精度情况下大幅压缩体积的可行性。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →