两篇论文中选 NeurIPS 2026:预训练表示的 margin 条件下任务混淆指数衰减
khademinori · x · 2026-09-25
作者 khademinori 宣布两篇论文被 NeurIPS 2026 接收。第一篇证明:当预训练表示满足 Mahalanobis margin 条件时,不同时期学习的类别间任务混淆随 margin 呈指数衰减;并证明微调会以随学习率增长的速度侵蚀 margin。第二篇以闭式解刻画了顺序训练的交叉熵头中 L2 正则化引入的每阶段偏移,并提出 gauge anchoring 方法。
所属事件:两篇预训练表示研究入选 NeurIPS,破解增量学习不可行困局(2 条相关)→
「研究」频道最新
- UniPath 被 NeurIPS 2026 接收:单模型自适应协调理解与生成 — jindong_wang92 · 2026-11-11
- Scale AI 1200+ 次训练对比 PPO 与 GRPO:小 batch 用 critic,大 batch 可省掉 — heghbalz · 2026-11-11
- 开源进程推进个性化胰腺癌疫苗:34 岁患者数据全公开征集专家意见 — jajoosam · 2026-11-11
- Ross Girshick 发布 CVPR 演讲幻灯片:复盘十五年目标检测史并衔接 LLM — CatAstro_Piyush · 2026-11-11
- KAIST 发现记忆会让 Agent 翻车,WikiTrace 用证据链接降 10.7 分差距 — dair_ai · 2026-11-11
- UHN 团队发布 DynaMELD,用机器学习公平排序肝移植等待名单 — VectorInst · 2026-11-11