浏览器端 TTS 新玩法：43.7MB 模型跑出 115 倍实时速度
blixt · x · 2026-11-02
blixt 基于开源 TTS 模型 Phonon 31M 做了一个 WebGPU 浏览器运行时：把大矩阵权重转成 8-bit 整数后仅需 43.7 MB 下载，即可在 Chrome/Safari（含 iPhone）本地流式生成 24 kHz 英语语音，还能给出每个词和 token 的起止时间戳（官方包不支持）。
与 Gradium 官方的 phonon-tts 相比：M3 Max 上速度 115× vs 31× 实时，RTX 2080 Ti 上 73× vs 21×，iPhone 17 Pro 上 26× vs 13×；句子首音频延迟 3 ms vs 15 ms，冷启动首音频 46 ms vs 373 ms。质量上 Whisper 在 110 段生成音频中未检出错词（官方包为 0.22%），说话人相似度与 UTMOS 评分基本持平。作者的方法核心是“直接用 prompt 提要求”再加权重量化——又一次证明很多“不可能”其实只是没人试。
「Infra」频道最新
- 为建数据中心年毁 25 万棵树，「无纸化环保」遭反讽 — im_mansigupta · 2026-11-02
- 创业者断言：协作型 agent 的服务成本问题亟待解决 — hyhieu226 · 2026-11-02
- SmolChat 更新:Android 本地跑 GGUF 模型并内置 OpenAI 兼容服务器 — shubham0204_dev · 2026-11-02
- 两张 3090 并跑 8 个 Agent,各持 25 万 token 上下文,合计 545 tok/s — o2beast · 2026-11-02
- Liquid AI 展示 LFM3 Omni 2B 直接跑在浏览器 WebGPU 里 — rm-rf-rm · 2026-11-02
- Google 太空 TPU 跑通 Gemma 首个 AI 回复,太阳能数据中心迈出第一步 — shashib · 2026-11-02