audio.cpp 0.4 新增多款语音模型，35 个家族统一支持 GGUF
Acceptable-Cycle4645 · reddit · 2026-07-24
audio.cpp 0.4 加入多款语音模型，GGUF 和 Q8 开始显出收益
这个版本新增了 Higgs Audio v3 TTS 4B、Fish Audio S2 Pro、Voxtral Realtime ASR，以及两个社区模型 OuteTTS 和 VieNeu-TTS-v3。作者还把 GGUF 提升为项目里的“第一类”支持路径。
主要变化包括：
- 现已支持 35 个模型家族。
- 所有已发布模型家族都支持 GGUF。
- 提供了可直接使用的 GGUF 包。
- 在 RTX 5090 上的实测里：
- Higgs Audio TTS：热身后约 8.8x–10.1x 实时速度；长文本约 8.5x
- Fish Audio S2 Pro：热身后约 3.1x–3.4x；长文本约 3.3x
- Voxtral ASR：离线约 15.7x 实时速度，流式首 token 时间约 171 ms
作者同时指出，和 16-bit GGUF 相比，Q8 在部分路线里可做到约 1.5x 加速，并把峰值显存降低最多约 37%，但效果仍取决于具体模型与实现路径。
所属事件:audio.cpp 0.4发布：新增多款语音模型并提升显存效率(2 条相关)→
「Infra」频道最新
- AI 工程师必懂的 12 种 KV Cache 压缩技术一文讲透 — blaizedsouza · 2026-09-11
- 影子算力市场走向台前,Meta 对外出售过剩 GPU 算力成标志性信号 — DavidLinthicum · 2026-09-11
- Engram 随机读取不适合 SSD，CPU 内存低延迟共享或成正解 — bookwormengr · 2026-09-11
- 劝退帖:推理工程是真金白银的硬活,八成尝鲜者已悄然放弃 — abhijithneil · 2026-09-11
- Hugging Face《Ultra Scale Playbook》:GPU 集群训练 LLM 的免费技术书 — mdancho84 · 2026-09-11
- 从聊天到 Agent,推理延迟正在成为生产级瓶颈 — Euphoric_Sea632 · 2026-09-11