Apple 发布半监督联邦 ASR 实践配方:在线伪标签稳定训练
Apple ML Research · rss · 2026-09-24
Apple ML Research 发布关于半监督联邦学习（SSFL）在自动语音识别（ASR）中的实用研究文章。
核心问题：在客户端无标签数据上用教师模型生成伪标签进行联邦训练时，ASR 的伪标签错误会沿输出序列和训练轮次不断累积，导致训练发散，与全监督联邦学习存在较大差距。
关键结论：弥合该差距取决于两个耦合的设计轴——
- 教师（teacher）：由哪个模型生成伪标签；
- 锚点（anchor）：服务器端在有标签小种子数据上的更新，用于稳定训练。
文章给出了在线伪标签（online pseudo-labels）配合服务器更新稳定化（server update stabilization）的具体实践方案。
「研究」频道最新
- UniPath 被 NeurIPS 2026 接收：单模型自适应协调理解与生成 — jindong_wang92 · 2026-11-11
- Scale AI 1200+ 次训练对比 PPO 与 GRPO:小 batch 用 critic,大 batch 可省掉 — heghbalz · 2026-11-11
- 开源进程推进个性化胰腺癌疫苗:34 岁患者数据全公开征集专家意见 — jajoosam · 2026-11-11
- Ross Girshick 发布 CVPR 演讲幻灯片:复盘十五年目标检测史并衔接 LLM — CatAstro_Piyush · 2026-11-11
- KAIST 发现记忆会让 Agent 翻车，WikiTrace 用证据链接降 10.7 分差距 — dair_ai · 2026-11-11
- UHN 团队发布 DynaMELD，用机器学习公平排序肝移植等待名单 — VectorInst · 2026-11-11