audio.cpp 新版音频生成快到离谱
Acceptable-Cycle4645 · reddit · 2026-07-15
`audio.cpp` 发布 0.3 版，新增 5 个模型：Supertonic 3、MOSS-TTS-Local、MOSS-TTS-Nano、IndexTTS2 和 Irodori-TTS。 ### 主要亮点 - **Supertonic 3** 在 CUDA 上可达 **200x+** 实时速度，CPU 上约 6x+，CUDA 流式模式下 TTFT 约 47ms - 演示里用《福尔摩斯探案集》作为输入，在 RTX 5090 上大约 **3 分钟生成了 10 小时音频** - 作者为此逆向了官方 ONNX 推理路径，并用 safetensors 权重重写 - 相比 Python 实现，CUDA 版本明显更快；CPU 性能基本持平或略快 ### 其他说明 - 慢节点回退到 CPU 是 ONNX 版本 GPU 利用率不满的重要原因 - 0.3 版里其他模型的速度提升从接近原版到 **2x+** 不等 - IndexTTS2 的长文本测试中，C++ 版本比 Python 快 **5.65x** - 已加入 GGUF 支持，会按模型逐步开放 项目仓库：`github.com/0xShug0/audio.cpp`