Apple 发论文:用潜空间蒸馏压缩端侧流式语音编码器
Apple ML Research · rss · 2026-09-24
Apple ML Research 发布论文《Compressing Streaming Neural Audio Encoders via Latent-Space Distillation》,介绍 Apple 设备上全端侧系统级听写背后的技术优化:
- 听写的语音通过一个 tokenizer(编码器)进入基础模型,该编码器将短窗口波形映射为语言模型读取的表示。
- 基础模型在 Instruction-Following Pruning 下稀疏激活,任意时刻只有一小部分 expert 驻留 DRAM,因此常驻的 tokenizer 与之争夺内存,其参数量直接影响功耗与延迟。
- 论文研究如何通过蒸馏压缩该 tokenizer,以目标模型的潜空间表示作为监督信号,降低参数量与开销。
对关注端侧部署与语音管线工程的人是一份有学习价值的系统侧研究。
「Infra」频道最新
- Starlink 美国城市用户增速 73% 反超农村，上传速度提升 42% — XFreeze · 2026-11-11
- Cloudflare 采用未经实战的共识算法 QuePaxa,替代 Raft/Paxos 建 Meerkat — sull · 2026-11-11
- 用 AI 扫遍全美废弃商场，改造成数据中心的脑洞 — LinusEkenstam · 2026-11-11
- Anthropic S-1 曝 260 亿美元私募：七大供应商按 IPO 价入股 — demian_ai · 2026-11-11
- SpaceXSI 1.2GW 燃气电厂获密西西比州环保许可,为 Colossus II 供能 — XFreeze · 2026-11-11
- Anthropic 称用 AI 3 天完成 AMD GPU 移植,动摇 Nvidia CUDA 护城河 — The Decoder · 2026-11-11