TAAL 修复生成式推荐早期 Beam 剪枝问题
_reachsumit · x · 2026-09-01
论文指出生成式推荐中 90% 以上的检索失败发生在前两步解码，并提出 TAAL (Temporal Autoregressive Alignment) 方法。
核心问题：标准 Next-token 预测未覆盖多模态转换，导致正确 SID 在早期 Beam Search 中被不可逆剪枝。
解决方案：
- 训练阶段：基于历史转换构建联合软目标，使用前向 KL 散度对齐早期前缀分布。
- 推理阶段：使用点互信息 (PMI) 校准候选分数，降低全局高频前缀的影响。
效果：在 Amazon Beauty、Instruments 和 Yelp 上，NDCG@10 分别提升 39.5%、6.7% 和 28.6%；Full-SID 存活率提升 3.9%-16.6%。
「研究」频道最新
- 首尔国立大学发布 MineAmongUs：VLM 智能体在具身社交中学会撒谎 — SeoulNatlUniv · 2026-09-01
- Naver 提出 Verification-Aware Training：训练时模拟验证提升投机解码 — naver-ai · 2026-09-01
- 清华团队打破 41 年纪录：证明 Dijkstra 最短路径算法并非最优 — jedisct1 · 2026-09-01
- RL 训练使模型行为独立于系统提示词？AI 安全专家激辩 — voooooogel · 2026-09-01
- 生产环境 LLM 决策不应依赖「感觉更好」 — camerongreen95 · 2026-09-01
- Abliteration 移除模型拒绝机制，保留编码与攻击能力引争议 — aryaman2020 · 2026-09-01