audio.cpp 0.4 新增 5 个语音模型,显存最高省 37%
Acceptable-Cycle4645 · reddit · 2026-07-24
audio.cpp 发布 0.4 版,重点是补充高质量语音模型支持,并把 GGUF 提升为项目里的一级格式。
- 新增支持包括 Higgs Audio v3 TTS 4B、Fish Audio S2 Pro、Voxtral Realtime ASR,以及两个社区模型 OuteTTS 和 VieNeu-TTS-v3。
- 项目现在支持 35 个模型家族,而且所有已发布家族都提供了 GGUF 包。
- 作者给出了 RTX 5090 上的实测:
- Higgs Audio TTS 在热启动后可达到约 8.8×–10.1× 实时;
- Fish Audio S2 Pro 约 3.1×–3.4× 实时;
- Voxtral ASR 离线约 15.7× 实时,流式首 token 延迟约 171 ms。
- 与 16-bit GGUF 相比,Q8 在部分路径上最高可快约 1.5×,峰值显存可降约 37%,但是否值得量化仍取决于具体模型。
所属事件:audio.cpp 0.4发布:新增多款语音模型并提升显存效率(2 条相关)→
「Infra」频道最新
- Anthropic S-1:每 1 美元收入烧 48 美分算力成本 — nmasc_ · 2026-10-26
- Persistent AI 入驻 UR 网络,隐私推理流量全程加密 — 0xSammy · 2026-10-26
- Anthropic 算力承诺曝光:Google 至少 1145 亿美元居首 — BenBajarin · 2026-10-26
- SpaceX 与 Apollo 达成 400 亿美元 AI 芯片与数据中心硬件租赁协议 — Polymarket · 2026-10-26
- Diamandis 盘点:SpaceX AI 业务年增 830%,Claude 64 小时设计 31.8 万抗毒蛋白 — PeterDiamandis · 2026-10-26
- Meta 拟发售至多 950 亿美元股票为 AI 基建输血 — The Decoder · 2026-10-26