Drama3 语音合成登陆 audio.cpp:RTX 5090 上最高 5 倍实时速度
Acceptable-Cycle4645 · reddit · 2026-10-16
audio.cpp 宣布支持 Fish Audio 的 Drama3 语音合成模型(由 JarodMica 贡献),性能数据亮眼:RTX 5090 上全速运行可达 5 倍实时速度;用 CPU 权重卸载加分阶段释放模式,低于 8 GB VRAM 也能跑出约 2 倍实时速度。
关键数据(RTX 5090, Q4k 量化)
- 全 CUDA、512 chunk:峰值显存 26,990 MiB,warm RTF 0.195
- CPU 卸载 + staged release、256 chunk:仅 7,782 MiB,RTF 0.521
- Vulkan 全量:27,234 MiB,RTF 0.247
现状:优化集中在 CUDA,Vulkan/Metal 可用但有 token 上限触发、多说话人异常静音等问题;进入正式版前还会多轮迭代。社区贡献需保证共享框架改动为增量式、opt-in,避免影响其他 100+ 模型。
所属事件:Fish Audio Drama3 语音模型接入 audio.cpp(2 条相关)→
「Infra」频道最新
- 拿到新硬件就开跑:垃圾佬第一时间本地部署模型 — lxfater · 2026-10-16
- Together AI 提出 Score Centering:量化推理下 RL 训练不再崩 — nrehiew_ · 2026-10-16
- AI 推理正走向异构分解:Prefill 与 Decode 分用专用芯片 — AccBalanced · 2026-10-16
- Rebasely 公测:为人和 Agent 共写代码打造的新 Git 托管 — handotdev · 2026-10-16
- CoreWeave 三位联创 IPO 后套现 33 亿美元,信贷风险引股价震荡 — SumitGup · 2026-10-16
- 传闻新模型 cherry pi 小到能跑在树莓派上? — sull · 2026-10-16