Fish Audio S2 分支在苹果芯片上提速到 23 t/s
fogonthebarrow-downs · reddit · 2026-07-23
一位开发者 fork 了 Fish Audio 的 S2，并把它针对 Apple Silicon 做了本地优化，号称在 MPS 上提速非常明显。
- 通过量化和推理引擎改动，吞吐从大约 1.2 tokens/s 提升到 bf16 的 12.4 t/s、int8 的 23 t/s。
- 主要手段包括 KV cache 复用、GQA 展开、MPS 的 int8 kernel、torch compile（inductor-metal），以及 sub-batch streaming。
- 作者的基准是在 M5 Pro 48GB 上跑的，也在找其他 Apple Silicon 机器帮忙复现。
- 这是一条很实用的本地 TTS 推理优化 分享，适合做端侧/Apple 设备部署的人参考。
「多模态」频道最新
- Midjourney 风格参考分享:--sref 2912175708 — tisch_eins · 2026-09-11
- Astra 分镜+Minimax H3 分镜逐帧生成，视频创作成功率大增 — Hailuo_AI · 2026-09-11
- Hailuo 转推：MiniMax H3 MAX 一发生成 15 秒美食动画短片 — Hailuo_AI · 2026-09-11
- MiniMax Music 制作工具包 2.5 发布,新增完整母带处理链 — Vivid_Promise1700 · 2026-09-11
- ComfyUI 新节点发现器上线:按 star 增速过滤最新热门节点 — Luke2642 · 2026-09-11
- 用 MiniMax H3 MAX 对一只蚊子放大招,蚊子毫发无伤 — Hailuo_AI · 2026-09-11