Apple 发论文:用潜空间蒸馏压缩端侧流式语音编码器
Apple ML Research · rss · 2026-09-24
Apple ML Research 发布论文《Compressing Streaming Neural Audio Encoders via Latent-Space Distillation》,介绍 Apple 设备上全端侧系统级听写背后的技术优化:
- 听写的语音通过一个 tokenizer(编码器)进入基础模型,该编码器将短窗口波形映射为语言模型读取的表示。
- 基础模型在 Instruction-Following Pruning 下稀疏激活,任意时刻只有一小部分 expert 驻留 DRAM,因此常驻的 tokenizer 与之争夺内存,其参数量直接影响功耗与延迟。
- 论文研究如何通过蒸馏压缩该 tokenizer,以目标模型的潜空间表示作为监督信号,降低参数量与开销。
对关注端侧部署与语音管线工程的人是一份有学习价值的系统侧研究。
「Infra」频道最新
- 曝 AI 芯片创企 DensityAI 拟融资数亿美元，估值 100 亿美元 — steph_palazzolo · 2026-09-25
- 曝 xAI 三个月内点亮 66 万张 GB300，年底 GPU 总量达 144 万 — ns123abc · 2026-09-25
- Epoch AI 图表:同等智能水平 AI 价格持续跳水,降幅超其他技术 — jeff_weinstein · 2026-09-25
- 多智能体通信催生新基建:Agent 间的「全局总线」会是下一个原语 — madhavsinghal_ · 2026-09-25
- 投资人预言：3-5 年内芯片到 PCB 设计将融合成一条连续流 — ai · 2026-09-25
- 高通 2nm 骁龙8至尊版发布：CPU 首破 5GHz，全线为智能体重写架构 — 量子位 · 2026-09-25