audio.cpp 新版音频生成快到离谱
Acceptable-Cycle4645 · reddit · 2026-07-15
audio.cpp 发布 0.3 版，新增 5 个模型：Supertonic 3、MOSS-TTS-Local、MOSS-TTS-Nano、IndexTTS2 和 Irodori-TTS。
主要亮点
- Supertonic 3 在 CUDA 上可达 200x+ 实时速度，CPU 上约 6x+，CUDA 流式模式下 TTFT 约 47ms
- 演示里用《福尔摩斯探案集》作为输入，在 RTX 5090 上大约 3 分钟生成了 10 小时音频
- 作者为此逆向了官方 ONNX 推理路径，并用 safetensors 权重重写
- 相比 Python 实现，CUDA 版本明显更快；CPU 性能基本持平或略快
其他说明
- 慢节点回退到 CPU 是 ONNX 版本 GPU 利用率不满的重要原因
- 0.3 版里其他模型的速度提升从接近原版到 2x+ 不等
- IndexTTS2 的长文本测试中，C++ 版本比 Python 快 5.65x
- 已加入 GGUF 支持，会按模型逐步开放
项目仓库：github.com/0xShug0/audio.cpp
所属事件:audio.cpp新版实现本地音频生成提速200倍(2 条相关)→
「编程与Agent」频道最新
- 观点：Agent 真正的瓶颈是企业数据工程能力 — dhruv2038 · 2026-09-11
- GPT-6 Astra 用时 44 小时通关含敌人 Factorio,API 成本约 4500 美元 — liminal_bardo · 2026-09-11
- 实测找 105 个隐藏 bug:DeepSeek V4.1 Flash 得 24 分,成本仅 Opus 5 的 3.5% — ChartsJournalX · 2026-09-11
- 投资分析师求教：如何用 Claude 搭建尽调 Agent 工作台 — Careless_Tie2286 · 2026-09-11
- 把 Agent 当失忆症患者：三层上下文分层法让对话不再从零开始 — evielync · 2026-09-11
- Android 手机跑 Firefox MCP：Termux+ngrok 完整教程 — Nervous-Strain7544 · 2026-09-11