VoxGen:Rust+Vulkan 实现的 AMD 优化 VoxCPM2 本地 TTS 引擎
Substantial_Swan_144 · reddit · 2026-09-03
开发者发布了 VoxGen——一个面向 VoxCPM2 的轻量本地 TTS 推理引擎。
- 用 Rust 编写,走 Vulkan 计算,完全绕开 Python/PyTorch/CUDA 依赖
- 动机是主流框架几乎全是 NVIDIA 优先,AMD 卡上运行 VoxCPM2 卡顿严重、GPU 占用尖峰
- 在 AMD 卡上运行流畅,并为 RX 7900 XTX 设计了更激进的功耗与速度优化模式
- 支持 shell 命令行运行,便于集成进脚本与其他程序
- 只需一个可执行文件加 Hugging Face 上的两个 GGUF 权重(VoxCPM2-BaseLM-Q80 与 Acoustic-F16)即可运行
对本地语音/端侧推理玩家是个实用的非 NVIDIA 方案。
「Infra」频道最新
- 覆盖 Bedrock/Azure/Vertex 三万条价格，开发者做出云端模型变动雷达 — jsandhu0780 · 2026-10-18
- 1270万 tokens 仅花 0.14 美元，缓存命中率 99.6% 的 agent 实测 — teortaxesTex · 2026-10-18
- 单卡 9060 XT 16GB 跑 Qwen3 27B：262k 上下文 42.7 tps — Maglcite · 2026-10-18
- SlateDB+Lance+Datafusion 自建数据栈,为客户年省数百万美元 — sh_reya · 2026-10-18
- 视频生成 API 每 10 秒约 0.5 美元,自建服务器何时更划算? — Key-Lychee-913 · 2026-10-18
- vLLM 联手 NVIDIA 优化 Kimi K3:GB300 上解码达 842 tokens/s — vllm_project · 2026-10-18