两篇论文中选 NeurIPS 2026：预训练表示的 margin 条件下任务混淆指数衰减
khademinori · x · 2026-09-25
作者 khademinori 宣布两篇论文被 NeurIPS 2026 接收。第一篇证明：当预训练表示满足 Mahalanobis margin 条件时，不同时期学习的类别间任务混淆随 margin 呈指数衰减；并证明微调会以随学习率增长的速度侵蚀 margin。第二篇以闭式解刻画了顺序训练的交叉熵头中 L2 正则化引入的每阶段偏移，并提出 gauge anchoring 方法。
所属事件:两篇预训练表示研究入选 NeurIPS，破解增量学习不可行困局(2 条相关)→
「研究」频道最新
- 斯坦福推出 PhilosophyBench:首个大规模评测 AI 哲学能力的基准 — ajratner · 2026-09-25
- 视频模型为何违反物理？去噪前 10% 已锁死轨迹 — linoy_tsaban · 2026-09-25
- UC伯克利与普林斯顿发布TANGO框架,让人形机器人全身控制穿越狭窄空间 — shahdhruv_ · 2026-09-25
- 可解释性新思路：把原始激活值可视化为数学框架起点 — brandon_xyzw · 2026-09-25
- NVIDIA 分享 Cosmos 3 仿真路线:用可验证奖励加速物理 AI 开发 — liu_mingyu · 2026-09-25
- 150802 个神经元果蝇连接组开源,浏览器里跑出「黑客帝国」 — mtizard · 2026-09-25