实测:训练标签 30% 噪声以内,微调收益依然为正
Reasonable_Royal_621 · reddit · 2026-10-30
CacheVerifier 团队分享了一组关于标签噪声对微调影响的实测：生产环境的反馈标签（如点赞/点踩）天然带噪声，他们想知道噪声多高时微调会开始有害。
实验设计
- 取 4000 条训练对，随机翻转 0–40% 的标签后微调，再用干净标签在 3 个公开基准上评测。
关键结果
- LMArena 上 AUC 提升：干净标签 +0.107，10% 翻转时 +0.083，30% 翻转时仍有 +0.028。
- 三个数据集上的盈亏平衡点都落在 31–32% 噪声，超出预期。
- 40% 噪声时急剧崩坏，LMArena 上变为 -0.101。
结论：如果小规模审计显示反馈噪声远低于 30%，微调大概率值得做。作者提醒实验用的是随机翻转，真实噪声往往有结构性，需谨慎外推。方法与数据见 CacheVerifier 仓库 5.7 节。
「研究」频道最新
- 亚马逊推出 DreamFAR 世界模型：让机器人在虚拟世界训练，π₀ 真机性能近翻倍 — CyberRobooo · 2026-10-30
- Investor's Last Exam 基准：顶级 AI 模型擅长研究但败在投资判断 — Huangfei Jiang · 2026-10-30
- SpecSlot：频谱槽位解耦细节与全局注意力，像素空间生图 FID 降 2.84 省算力 — Jiongfan Yang · 2026-10-30
- Apple 论文：在线强化学习训练 UI 导航 Agent，直接在真实 iOS 应用上练 — apple · 2026-10-30
- KAIST 推出 L3G-World：潜在 3D 高斯记忆实现实时无限世界生成 — kaist-ai · 2026-10-30
- 北航与美图推出 PhysInsert：几何先验实现物理合理的参考图物体插入 — Yue Gong · 2026-10-30