三值量化把 VoxCPM2 压缩 5.3 倍,827MB 模型笔记本 CPU 实时跑
oguzeldereli · reddit · 2026-11-18
开发者 oguzeldereli 将 2B 的开源语音模型 VoxCPM2 从 bf16(约 4.96GB)转换为三值 1.58-bit 量化(ttf),语言模型部分权重仅取 -1/0/+1,扩散 Transformer 保留 Q8,整体体积降到 827MB + 100MB VAE,缩小 5.3 倍,并用自研 C++ 运行时实现无 Python 部署。
质量几乎不掉:
- 盲听测试得分 3.02,反超全精度版 VoxCPM2 的 2.75;
- 英文自然度 UTMOS 4.31(原版 4.25),WER 2.61%,说话人相似度 0.956;
- 5–20 秒参考音频克隆相似度 0.933,接近同说话人两条真实录音的 0.936,克隆 WER 1.9% 与全精度持平;
- 覆盖 27 语言零样本合成(FLEURS 评测)。
速度:RTX 4070 Ti SUPER 上 RTF 0.16,笔记本 i9-14900HX 纯 CPU 也能实时运行(RTF ≈1),无 AVX-VNNI 的老 CPU 上 RTF 2.5。
模型(Apache-2.0)、C++ 运行时与转换代码均已开源,作者此前用同一 TTF 方法压缩 LLM,这次是应网友要求在 TTS 上的复现验证。
「多模态」频道最新
- 用高斯泼溅实时搭建 3D 世界,Eddie 演示想象力门槛正在消失 — pvncher · 2026-11-18
- APOB AI 用 Seedream 5.5 打造 AI 偶像专辑封面并生成 K-pop MV 预告 — aftahi_ai · 2026-11-18
- 循环层复用难救多模态嵌入,预训练加循环才涨 4.23 分 — _reachsumit · 2026-11-18
- 博主为 Claude 写动画构图 Skill,复刻日式情绪镜头技法 — andrew_n_carr · 2026-11-18
- 个人开发者从零训练 32x32 像素风 diffusion 模型,权重开源 — DaneMarguglio · 2026-11-18
- 用户实测:用 Claude Opus 5.5 做视频近乎零成本,100% 用量下还能再产出 — RileyRalmuto · 2026-11-18