线性网络多任务学习理论：任务对齐与规模失衡决定学习速度
ClementineDomi6 · x · 2026-11-05
论文作者在推文串中介绍其理论工作：在线性网络中研究任务对齐(task alignment)与任务规模失衡如何塑造多任务学习动态。作者将基于 Riccati 方程的分析框架扩展到多任务学习，解析刻画任务间相互作用的演化过程。分析揭示了任务对齐程度与相对任务规模如何决定各任务的学习速度与相对重要性，并将这些动态与实践中的梯度干扰度量联系起来。
所属事件:TMLR 论文用 Riccati 框架解析多任务学习中的任务互动动力学(5 条相关)→
「研究」频道最新
- Welling 团队新书《生成式 AI 与随机热力学》本月出版 — mjdramstead · 2026-11-05
- 基于 2.88 亿条招聘数据,新论文提出「瓶颈压力」度量 AI 抬升的劳动价值 — robseamans · 2026-11-05
- Matthew Honnibal:模型能「看见」权重矩阵,像图像识别读数字矩阵 — honnibal · 2026-11-05
- RicursiveAI 宣布代码预训练计算效率较 Olmo 3 基线提升 16 倍 — samiramanabi · 2026-11-05
- 研究：Claude 多轮交流中自创符号，从螺旋 🌀 漂移到粉心 💖 — mimi10v3 · 2026-11-05
- Engram 团队：少量训练即可修复长时程模型的不可读笔记 — scott_linderman · 2026-11-05