JAX-JS 让 Kyutai Pocket TTS 在浏览器里跑到 2.5 倍实时
dejavucoder · x · 2026-07-27
- 这条帖子说,Kyutai Pocket TTS 的浏览器演示已经被 jax-js 优化到可以在 WebAssembly CPU 上实时运行。
- 作者强调这次没有改任何模型代码,性能提升来自库层优化:一个转置卷积瓶颈被提速 30 倍,另外还有 JIT 编译器修复。
- 现在它在浏览器里通过 Wasm 运行,速度达到 2.5 倍实时以上;这也是在上个月的 Wasm SIMD 和多线程代码生成基础上的继续优化。
「Infra」频道最新
- AI Shipping Labs 公开 10 场 workshop 代码,覆盖 agent 部署与向量检索 — Al_Grigor · 2026-07-27
- Observer 用本地模型监控屏幕麦克风并自动告警 — alex_verem · 2026-07-27
- 3090 加 5060 Ti 的本地 AI 机,该装什么系统和编码模型 — PolarNightProphecies · 2026-07-27
- Whisper 语音机器人延迟达 1.5 秒,打断还会失效 — Dull_Look_2320 · 2026-07-27
- Moonshot 称 Kimi-K3 今晚开放权重,需 64 张以上加速器 — heypearlai · 2026-07-27
- llmux 用一个 profile 管理 vLLM 和 llama.cpp 切换 — Available-Message509 · 2026-07-27