Learned Cross-Task Relationships in Multi-Task Models
Victor Zhang, Yiping Yuan, Florian Raudies, Bosun Adeoti, Brian Y. C. Leung, Sanjay Surendranath Girija, Naijing Zhang
cs.AI
2026-09-24
Google在YouTube多任务模型上加交叉标签或无条件头,用成对关系逼近任务联合分布。通知场景DAU+0.17%、退订-1.05%、发送量-7.21%;首页与Watch Next的有价值观看时长也有统计显著增益。
YouTube 的用户参与模型是标准多任务学习:点、赞、存、看完,各开一个头,损失加权相加,共享躯干。训练标签来自联合分布,模型输出却常常只是各任务的边际概率。N 个二分类任务的完整联合要 O(2^N) 个头,算不起;只输出 N 个边际,联合结构在最后一层被积分掉了。
下游还有一层强化学习策略,拿这些预测当环境状态,决定发不发通知、排哪条首页。策略网络就算会做特征交叉,乘上 E[X]E[Y] 也不等于 E[XY]。差的那一项就是协方差。不知道「这类视频一点击就存」还是「点了只看一次」,状态空间缺了一块。
不建模完整联合,只补成对关系里缺的那一项。已有无条件头 X、Y 时,加一个交叉标签头预测 E[XY],也就是逻辑与。已有 X 和条件头 Y|X 时,联合可由链式法则得到,缺的是无条件 E[Y],就加一个在全量样本上训练的无条件头。有了 E[X]、E[Y]、E[XY],四个二元格子都能解析出来,复杂度从指数降到最多 O(N^2),实际只挑有信息的任务对。
嵌套任务(Y 蕴含 X)、互斥任务(交叉恒为 0)、以及能由链式法则直接写出的无条件概率,一律不加。架构上最终更常用的做法是把辅助头直接接到共享躯干、不截梯度;接到已有头的顶层隐层也有效,但跨多个 YouTube 模型时前者更好扩。
两条假说分开测。迁移学习:加头但不把新预测送给策略,只看原头 AUC 和线上指标。环境建模:再把交叉预测当作策略输入。对照过加损失权重、复制已有头,没有实验证据表明那样能替代交叉头。交叉头把梯度集中在两任务同时为正的稀疏子集上,调权重做不到这一点。
每臂数千万人的 A/B,指标是成熟系统上的增量。
| 表面 | 阶段 | 辅助头 | 线上主要变化 |
| 通知 | 迁移+策略一起 | 10 个 Open/Dismiss × Visit 交叉 | DAU +0.17%,有价值观看 +0.19%,退订 -1.05%,发送 -7.21%,CTR +7.67% |
| 首页 | 仅迁移,5 个无条件头 | 点击条件打开 | 有价值观看 +0.05%,Shorts +0.10%,低质曝光 -0.24% |
| 首页 | 仅迁移,再加 7 头 | Share 无条件等 | 有价值观看 +0.05%,Shorts +0.06%,低质曝光 -0.16% |
| 首页 | 策略吃 11 头 | 对照已含 MTL 改动 | 首页互动 +0.03%,Shorts +0.10%,低质曝光 -0.64% |
| Watch Next | 仅迁移,4 个无条件头 | Continuation/赞踩/订阅 | Watch Next 有价值观看 +0.19%,全站有价值观看 +0.08%,低质曝光 -0.42% |
离线 AUC 有涨有平:通知直接互动头 +3%-8%,首页主头 +0.2%-0.5%,Watch Next 原头 +0.2%-2.6%。无关头偶尔小幅回退。线上没有出现「互动换满意度」的对掉,发送更少、退订更少、低质曝光下降,和 DAU、观看时长一起动。
通知后续把重叠变体改成互斥变体后,交叉损失直接打到共享事件底层,比穿过变体塔再回传更好,稀疏任务 AUC 大约高 0.6%-4%。
这是生产级多任务推荐里一个很小、很好抄的补丁:别再只优化边际,把你真正关心的任务对补上 E[XY] 或无条件头。不需要新的门控骨架,也不需要改标签定义。对已经把 MTL 预测喂给 RL 排序的系统,分两阶段上线能把「原头变准」和「策略多看到协方差」拆开。0.1% 量级的线上数字在 YouTube 规模上是真实的,换到小产品上不要照抄幅度。
任务对靠人筛,论文自己把自动化选型列为未来工作。指标和标签是专有变体,外部无法按同样公式复现。离线 AUC 混杂、有回归,线上稳赚,机制解释仍有一段空白。首页把 11 个头交给策略的增益小于纯迁移阶段,环境建模假说成立,但不是更大的那一块。Watch Next 的策略阶段还没做完。和 ESMM 式转化漏斗是亲戚,增量在于无条件和交叉头专门服务下游 RL 状态,不是再写一条转化链。