audio.cpp 新版音频生成快到离谱
Acceptable-Cycle4645 · reddit · 2026-07-15
audio.cpp 发布 0.3 版，新增 5 个模型：Supertonic 3、MOSS-TTS-Local、MOSS-TTS-Nano、IndexTTS2 和 Irodori-TTS。
主要亮点
- Supertonic 3 在 CUDA 上可达 200x+ 实时速度，CPU 上约 6x+，CUDA 流式模式下 TTFT 约 47ms
- 演示里用《福尔摩斯探案集》作为输入，在 RTX 5090 上大约 3 分钟生成了 10 小时音频
- 作者为此逆向了官方 ONNX 推理路径，并用 safetensors 权重重写
- 相比 Python 实现，CUDA 版本明显更快；CPU 性能基本持平或略快
其他说明
- 慢节点回退到 CPU 是 ONNX 版本 GPU 利用率不满的重要原因
- 0.3 版里其他模型的速度提升从接近原版到 2x+ 不等
- IndexTTS2 的长文本测试中，C++ 版本比 Python 快 5.65x
- 已加入 GGUF 支持，会按模型逐步开放
项目仓库：github.com/0xShug0/audio.cpp
所属事件:audio.cpp新版实现本地音频生成提速200倍(2 条相关)→
「编程与Agent」频道最新
- Agent 成功完成任务的背后:验证器只查了「有没有点击」导致重复投票 — TejasKumar_ · 2026-10-26
- diginomica 周报:agentic 自动化被高估,agent 攻防「The Hackening」已开始 — jonerp · 2026-10-26
- 「氛围验证」研究：近 60% 的形式化证明证明的不是作者本意 — basedjensen · 2026-10-26
- Devin 推出安全工具线，由 Claude Mythos 驱动并送数亿美元额度 — DevinAI · 2026-10-26
- HackBench 发布：向 Agent 轨迹注入作弊，压力测试监控器 — DanielKhashabi · 2026-10-26
- HF Hub CLI 大更新:缓存去重省 19GB,GPU 任务可重试重跑 — yb2698 · 2026-10-26