Ming-3.0 TTS 纯浏览器运行：零请求、比 PyTorch 快 5.5 倍
Appropriate_Many7754 · reddit · 2026-10-21
开发者将 Ming-3.0-tts-0.5B 完整跑在浏览器里：无服务器、无 API key、无 GPU，模型加载后页面零网络请求即可说话。
- 架构：Qwen2-0.5B decoder 每 80ms 音频生成一个 conditioning 向量，小型 diffusion transformer 经 10 步 flow-matching + CFG 转为音频 latent，流式 vocoder 输出 44.1kHz 音频——自回归解码加采样器全程在浏览器标签页内完成。
- 性能：Apple M4 Pro 上语速约 2 倍实时、比同 CPU 的 PyTorch 参考实现快 5.5 倍、0.3 秒起播、内存省约 4.5 倍，完整基准与方法论见 benchmarks.md。
- 底层工具链：fusor-ai（Rust kernels、线程池、Qwen2/DiT/iSTFT 可复用模块、流式权重格式、浏览器 loader）已上 crates.io（MIT），目标是让下一个模型移植成本大幅降低。
代码与在线 Demo 均已开放，作者征集下一个移植模型方向（ASR/小 LLM/embeddings）及更多机型的实测数据。
「Infra」频道最新
- 爆料：新架构下 Cerebras 跑 K3 级模型或只需 10 片晶圆 — bookwormengr · 2026-10-23
- 英伟达单日暴跌 7.21% 报 212.31 美元，市值仍守 5.2 万亿 — michalmalewicz · 2026-10-23
- Serverless 本质是计费模型：有状态计算该怎么按用量收费 — s4chinraja · 2026-10-23
- AKV 推理系统让 Agent 自管 KV 缓存,成本降 27.7% 准确率反升 — _akhaliq · 2026-10-23
- 云锁定新形态：AWS、谷歌自研 AI 芯片带来性能也带来迁移难题 — DavidLinthicum · 2026-10-23
- Linux 内核用 AI 辅助检测 AMD Zen CPU 微架构 — Fcking_Chuck · 2026-10-23