零重训把英伟达30B语音LLM从67.5GB剪到10GB,WER仅5.16%
Illustrious_Row_9971 · reddit · 2026-10-29
Reddit 用户发布了对 NVIDIA 新发布的 30B 语音转录 LLM 的剪枝实践:无需任何重训,将模型从 67.5GB 压缩到 10GB,转录 WER 仅 5.16%(原模型为 4.12%)。剪枝后模型已上传至 Hugging Face(akhaliq/nemotron-3.5-transcribe-mini-64e),展示了对语音 LLM 做结构化剪枝在几乎不损失精度情况下大幅压缩体积的可行性。
「模型」频道最新
- 「Sol 6.1 Ultra」自己想出水反光技巧,却也被吐槽活干 10% 就摸鱼 — teortaxesTex · 2026-10-29
- Anthropic:Claude 的网络攻击能力并非专项训练而是自然涌现 — repligate · 2026-10-29
- LiquidAI LFM3-1.7B GGUF 版冲上 Hugging Face 热榜 — LiquidAI · 2026-10-29
- Reflection 将 Beam 501B 量化到 MXFP4,双 MI300X 跑满 1M 上下文 — ben_burtenshaw · 2026-10-29
- Gemini 4 Carbon 登顶独立榜单,网络安全成绩亮眼但先限防御者使用 — Latent Space · 2026-10-29
- 博主实测 Claude/GPT/Gemini/GLM/Kimi 报价:转售商价差高达3倍 — Life-Situation-1533 · 2026-10-29