Apple 发布半监督联邦 ASR 实践配方:在线伪标签稳定训练
Apple ML Research · rss · 2026-09-24
Apple ML Research 发布关于半监督联邦学习（SSFL）在自动语音识别（ASR）中的实用研究文章。
核心问题：在客户端无标签数据上用教师模型生成伪标签进行联邦训练时，ASR 的伪标签错误会沿输出序列和训练轮次不断累积，导致训练发散，与全监督联邦学习存在较大差距。
关键结论：弥合该差距取决于两个耦合的设计轴——
- 教师（teacher）：由哪个模型生成伪标签；
- 锚点（anchor）：服务器端在有标签小种子数据上的更新，用于稳定训练。
文章给出了在线伪标签（online pseudo-labels）配合服务器更新稳定化（server update stabilization）的具体实践方案。
「研究」频道最新
- FD-Loss 直优化 FID 达 0.75,入选 NeurIPS Oral — yuewang314 · 2026-09-25
- 研究者提出「无魔法 OOD」原则，直指对齐计划通病 — nabla_theta · 2026-09-25
- NeurIPS 2026 论文揭示：无噪声调度的扩散模型暗藏能量景观梯度流 — docmilanfar · 2026-09-25
- AI 科学发现的验证瓶颈：Dario 的基因编辑突破没那么简单 — Ghost_Pilot_MD · 2026-09-25
- AI 博士自述：ICLR 审稿套路化，学术已被工业界甩开 — vykthur · 2026-09-25
- 研究称人类审美评估源于感知系统的社会文化调谐 — abenitezburraco · 2026-09-25