audio.cpp 0.4 新增多款语音模型，35 个家族统一支持 GGUF
Acceptable-Cycle4645 · reddit · 2026-07-24
audio.cpp 0.4 加入多款语音模型，GGUF 和 Q8 开始显出收益
这个版本新增了 Higgs Audio v3 TTS 4B、Fish Audio S2 Pro、Voxtral Realtime ASR，以及两个社区模型 OuteTTS 和 VieNeu-TTS-v3。作者还把 GGUF 提升为项目里的“第一类”支持路径。
主要变化包括：
- 现已支持 35 个模型家族。
- 所有已发布模型家族都支持 GGUF。
- 提供了可直接使用的 GGUF 包。
- 在 RTX 5090 上的实测里：
- Higgs Audio TTS：热身后约 8.8x–10.1x 实时速度；长文本约 8.5x
- Fish Audio S2 Pro：热身后约 3.1x–3.4x；长文本约 3.3x
- Voxtral ASR：离线约 15.7x 实时速度，流式首 token 时间约 171 ms
作者同时指出，和 16-bit GGUF 相比，Q8 在部分路线里可做到约 1.5x 加速，并把峰值显存降低最多约 37%，但效果仍取决于具体模型与实现路径。
所属事件:audio.cpp 0.4发布：新增多款语音模型并提升显存效率(2 条相关)→
「Infra」频道最新
- 13B 模型靠 SSD 分页在无独显电脑上离线跑通 — ID_R_McGregor · 2026-07-27
- Ubuntu 部署惊艳实测：5090 显卡成最易配置的 AI 设备 — _xjdr · 2026-07-27
- 台积电传 2027 年拟提价 5%–10% 应对成本上升 — Beth_Kindig · 2026-07-27
- Anthropic 称 Claude Code 删掉 80% 系统提示词仍不掉分 — krishnan · 2026-07-27
- Dhruv Bhatia 加入 fal，转向视频与世界模型栈 — gorkem · 2026-07-27
- Kimi K3 登陆 Together，预留吞吐成本低 65% — togethercompute · 2026-07-27