DuoLM:紧凑编码器+排序器让 LLM 推荐实现高吞吐在线服务
GoogleDeepMind · hf · 2026-10-26
Google DeepMind、UC Irvine 与 Oracle 研究者提出 DuoLM,一个快速且高效的 LLM 个性化推荐框架。
- 痛点:LLM 用全文输入逐个评估候选商品,在线计算量大、服务吞吐受限
- 方案:编码器 LLM 离线学习紧凑的物品表示供运行时复用,配合轻量排序器(ranker)与优化过的推理
- 在几乎不损失推荐质量的前提下大幅提升在线服务吞吐
- 论文还分析了 ID-based 双塔模型只靠交互数据训练的局限
「研究」频道最新
- 港中文等发布 RoboJudge 基准:800 段人工标注视频评估多模态模型裁判能力 — CUHK-CSE · 2026-10-26
- 开源 GNSS 库 libgnss++ 实测:3D 城市模型还原高楼间 GPS 漂移 — rsasaki0109 · 2026-10-26
- 伯克利用扩散模型生成 RL 策略权重,真机 G1 会跳舞旋转踢 — FinanceYF5 · 2026-10-26
- 研究员提醒:不核查评测本身,你只是在拟合榜单偏差与噪声 — antoine_chaffin · 2026-10-26
- Judea Pearl 转发 Oregon State 招收因果推断×AI 方向 AI 博士生 — yudapearl · 2026-10-26
- davidad 深入讨论「动力系统吸引子结构功能主义」理论框架 — davidad · 2026-10-26