字节跳动发布 SepLRM:共享 KV 缓存重构推荐基础模型范式
_reachsumit · x · 2026-11-11
字节跳动团队在 arXiv 发布 SepLRM 论文,提出推荐基础模型(RFM)新范式,解决大推荐模型(LRM)持续扩展时边际收益递减、长序列编码成本重复付出的问题。
核心思路:
- 将多个端到端 LRM 拆分为一个共享 RFM + 多个独立优化的垂直模型(VM)
- RFM 采用 encoder-decoder 架构,把最终层编码器状态导出为与下游候选无关的共享 KV cache,保留细粒度行为信息
- 各 VM 在该 KV 接口上构建候选条件化查询,保持与原 E2E 模型相同的 query-KV 交互,实现高保真能力迁移
- 长用户历史只编码一次即可被多个推荐阶段/业务场景复用,显著降低重复计算成本
「研究」频道最新
- 研究：小模型 NLI 任务上，简单 prompt + 少样本胜过复杂技巧 — rohanpaul_ai · 2026-11-11
- Martine 基准发布：多视角 3D 表面重建跨视角、分辨率与光照评测 — ssh4net · 2026-11-11
- 博主算账：40 万 token 上下文里 token 身份仅占 KV cache 信息量 0.00082% — aryaman2020 · 2026-11-11
- 图学习会议 LoG 2026 落地波士顿，11 月 20-22 日东北大学举办 — chaitjo · 2026-11-11
- 本周必读论文:人形机器人 HALO、GR00T 2、VLA 与 AI 科学家环境等 15 篇 — TheTuringPost · 2026-11-11
- codex 工具调用轨迹数据集登上 Hugging Face 热门 — israellaguan · 2026-11-11