audio.cpp 0.4 新增多款语音模型，35 个家族统一支持 GGUF
Acceptable-Cycle4645 · reddit · 2026-07-24
audio.cpp 0.4 加入多款语音模型，GGUF 和 Q8 开始显出收益
这个版本新增了 Higgs Audio v3 TTS 4B、Fish Audio S2 Pro、Voxtral Realtime ASR，以及两个社区模型 OuteTTS 和 VieNeu-TTS-v3。作者还把 GGUF 提升为项目里的“第一类”支持路径。
主要变化包括：
- 现已支持 35 个模型家族。
- 所有已发布模型家族都支持 GGUF。
- 提供了可直接使用的 GGUF 包。
- 在 RTX 5090 上的实测里：
- Higgs Audio TTS：热身后约 8.8x–10.1x 实时速度；长文本约 8.5x
- Fish Audio S2 Pro：热身后约 3.1x–3.4x；长文本约 3.3x
- Voxtral ASR：离线约 15.7x 实时速度，流式首 token 时间约 171 ms
作者同时指出，和 16-bit GGUF 相比，Q8 在部分路线里可做到约 1.5x 加速，并把峰值显存降低最多约 37%，但效果仍取决于具体模型与实现路径。
所属事件:audio.cpp 0.4发布：新增多款语音模型并提升显存效率(2 条相关)→
「Infra」频道最新
- AI 数据中心时代用电论战：有人还在纠结灯泡省电与调整时区 — mgostIH · 2026-10-27
- 法律 AI 公司 Legora 在 Modal 上并行跑 2000 个 agent eval — blelbach · 2026-10-27
- 云厂商发布速度打分：AWS 95 分领先，Azure 90、谷歌云 82 — DavidLinthicum · 2026-10-27
- 卖掉 5090 换多机？一公司主拆解本地推理硬件扩展五套方案 — Anarchaotic · 2026-10-27
- AWS 教程:SageMaker SDK v3 搭建车队级边缘视觉模型流水线 — AWS ML Blog · 2026-10-27
- Embedl 把 Qwen3.8-27B 压进 Jetson Thor:解码 40 tok/s,精度反超 FP16 — No-Dragonfly6246 · 2026-10-27