美团把展示上下文当建模单元:CTR 模型 AUC 涨 0.0139 收入涨 2.95%

UniCon: A Unified Context-Centric Modeling Paradigm for CTR Prediction

Jiajun Cui, Zhengqi Xu, Fan Zhang, Zhangteng, Gu Tang, Honghong Zhu, Mengxi Wu, Yulin Liang, Xingxing Wang

cs.IR

2026-09-03

UniCon 把一次展示的全部共显物品加意图信号打包成上下文单元,历史与当前候选同构处理,美团搜索广告 AUC +0.0139,线上收入 +2.95%。

这篇在解决什么

工业 CTR 预测的统一建模潮流把行为序列和非序列特征塞进一个共享主干,但输入组织仍沿用特征工程时代的老分法:历史是序列,候选、用户属性、请求信号是非序列特征,逐点打分。这个分法和用户真实决策过程错位。用户每次行为都发生在一个请求/展示上下文里,点不点一个物品不只取决于物品本身,还取决于同屏竞争对手是谁。搜索页里点了便宜的近处咖啡店,不代表无条件偏好它,可能只是同行竞品更贵更远。把上下文压平成 token 序列,会把「同一次展示的共存」和「不同展示的时间相邻」混为一谈。

方法

UniCon 的改动是把建模的基本单元从 token 换成上下文单元:一次曝光事件里共同展示的全部物品,加上意图、查询、场景、设备等信号。输入组织成「若干历史上下文单元 + 一个候选初始化的目标潜在上下文单元」。

结果

美团搜索广告一年生产数据,数亿用户物品规模:

模型AUCGAUCGFLOPs
生产基线0.85580.80769.69
RankMixer+DSIN+CIM0.86610.8171171.46
UniCon-Small(0.09B)0.86830.8184201.60
UniCon-Large 压缩版(0.33B)0.86970.8194197.14

UniCon-Small 用 0.09B 参数、约 200 GFLOPs 就超过了所有加强版研究基线,说明收益主要来自上下文组织方式而非容量。消融里破坏性最大的是完全去掉层级上下文建模(AUC 掉到 0.8637)。七天全量 A/B:RPM +3.09%、CTR +2.07%、收入 +2.95%,均 p≤0.01。压缩让推理吞吐相对固定长度未压缩基线提升 258%。

为什么重要

这是「输入怎么组织」比「模型多大」更值钱的一个干净例证:同参数量下上下文单元组织稳定胜过给现成骨干挂上下文模块(DSIN/CIM)。对货架、瀑布流、搜索结果列表这类上下文浓的场景参考价值最直接。压缩-精度曲线(AUC 0.8698 到 0.8697 换 75% 计算减免)也给长历史建模提供了一个可复用的工程模板。

局限与存疑

曝光和位置标签来自当前生产策略,监督的是现状展示分布,不是策略无关的最优上下文——论文自己承认这点,这意味着模型可能固化现有排序策略的偏差。线上收益是在搜索广告一个场景验证的,「上下文浓」的前提不成立的自然流量场景是否同收益未知。基准比较有公平性问题:研究基线(OneTrans、HyFormer、RankMixer)在生产数据上调参资源是否对等没有说明。位置条件打分要对每个候选枚举可行位置,服务端成本只在 SLA 内一笔带过。上下文单元的定义依赖曝光日志完整,埋点缺失场景的鲁棒性未讨论。

术语

原文与代码

社区讨论

相关论文

全部论文解读