HiGenTrans:在输入、表征、决策三层把 LLM 知识注入生成式推荐
_reachsumit · x · 2026-11-04
论文提出 HiGenTrans,一个三级框架,解决工业生成式推荐的两个障碍:仅用交互监督浪费了预训练 LLM 的语义知识;beam search 似然排序的是 token 序列而非直接估计物品相关性。
三个层次:
- 输入层:Global Semantic Priming 在序列起始嵌入中加入 LLM 派生的用户表征,提供语义先验
- 表征层:Hierarchical Representation Transfer 通过均值中心投影与门控残差连接,将 LLM 中间表征对齐到深度匹配的 GenRec 层
- 决策层:Multi-Signal Decision Calibration 用轻量 MoE 校准器融合语义相关性、生成置信度与候选集上下文来重排 beam search 输出
所有语义特征仅由可观测交互前缀计算,防止目标泄漏。
「研究」频道最新
- Anthropic 称将「即将」达到 RSP 加速 AI 研发阈值，并发布可证明推理研究 — tobyordoxford · 2026-11-04
- Google 扫描 1033 件真实家居品,打包成 345MB GLB 免费开放 — victormustar · 2026-11-04
- 这 10 篇 GPU 优化论文决定了今天模型跑得多快 — NandoDF · 2026-11-04
- 实测推翻常见建议：INT8 几乎无害，采样器才是关键 — YakovSava · 2026-11-04
- Karpathy 带火 HN 开源数据集：千万级帖子可当知识库直接用 — huangyun_122 · 2026-11-04
- PixelCraft 多智能体框架登场：专治多模态模型读图表翻车 — burkov · 2026-11-04