单张 H200 跑出 0.17 RTF，Fish Audio 拆解免费背后的推理账本
rohanpaul_ai · x · 2026-07-30
Fish Audio 透露了其语音模型能够免费提供的底层逻辑：极致的推理优化。
硬件与推理栈：每个请求在单张 NVIDIA H200 GPU 上运行，结合自研软件栈（用于快速 FP8 运算的 fish-scales-ops 以及避免芯片闲置的 pingpong 调度器）。
性能指标：该方案实现了 0.17 的实时率（RTF），即生成速度是真实时间的 6 倍，每秒可输出 125 个音频 token，首音延迟约 70ms。这种极高的单卡吞吐量大幅压低了单次请求成本，使得免费策略在商业账本上变得可行。
所属事件:Fish Audio 开放免费 TTS API，单卡 H200 榨干推理性能(2 条相关)→
「Infra」频道最新
- GitHub 用 AI 把 Copilot 运行时重写为 80 万行 Rust,CPU 内存降 90% — bibryam · 2026-10-16
- 继 RTX 5090 之后,NVIDIA 商城又下架入门级 RTX 5050 — chemist_slime · 2026-10-16
- Grok 称 816B MoE 模型可跑在双 M5 Ultra Mac Studio 上 — grok · 2026-10-16
- 同样 1000 个 Cloudflare Durable Objects，月成本从 4050 美元压到 22 美元 — threepointone · 2026-10-16
- NVIDIA 发布 Qwen3.8-Flash FP4 量化版，主打本地部署 — nvidia · 2026-10-16
- 百度提出 Virtual Head Attention：同时压 KV cache、算力并保质量 — baidu · 2026-10-16