新论文:跨物品与代码空间蒸馏,改进并行生成式推荐
_reachsumit · x · 2026-10-26
arXiv 论文提出面向并行 semantic-ID 生成式推荐的两个知识蒸馏目标,把串行推荐器的物品级打分知识迁移给 semantic-ID 模型。
- 难点:teacher 在物品空间、student 在代码空间,监督信号难以直接对齐;现有 semantic-ID 推荐器只用硬标签,缺少对其他候选物品的分布信息
- 两个互补目标:Item Distribution Matching (IDM) 从 student 的并行代码预测重建全目录物品分布并对齐 teacher 分布;Code Marginal Matching (CMM) 用固定物品-代码映射把 teacher 的物品概率投影到各代码位,再匹配 student 各头
- 两者都在保留 student 并行预测结构的同时注入 teacher 的软分布知识
「研究」频道最新
- CoRL 论文:VLA 机器人策略单步推理即可匹敌多步,动作生成提速 1.6~4.8 倍 — kaixhin · 2026-10-26
- 生物模拟为何难:参数敏感性普遍「马虎」,精确测量常非关键 — rbhar90 · 2026-10-26
- LessWrong 长文论证:计算逻辑反事实难题让 FDT 难以成立 — jessi_cata · 2026-10-26
- 学者纠错:别再误用苦涩教训论证暴力模拟将解决生物学 — anshulkundaje · 2026-10-26
- Chain Theory:用 AI 从量子信息重建基础物理,找到无参数精细结构常数候选式 — skdh · 2026-10-26
- 港浙复三校联手 Lightspeed 推 HiSTEVE:VLA 智能体键鼠操控玩转 Minecraft — tencent · 2026-10-26