Meta Bumblebee 将序列建模与特征交叉合进推荐 block
_reachsumit · x · 2026-07-29
核心思路
Meta 提出的 Bumblebee 推荐系统架构,不再把序列建模和特征交叉分成两段式堆叠,而是把它们放进同一个可堆叠 block 里交错执行。
论文主张
- 每个 block 内同时做序列个性化、注意力编码和特征交叉。
- block 输出的是联合表示,再传给下一个 block,形成早期、反复的模态融合。
- 残差连接让跨模态信息持续流动。
- 通过按需移除组件,可以在效果和吞吐之间做权衡。
价值
作者希望用这种“更紧耦合”的设计,在不增加参数量的情况下提升推荐质量。
「公司和人」频道最新
- 复盘:成功公司也会失败的 18 个 AI 转型原因 — alex_verem · 2026-10-16
- Jio 起源故事遭打脸:2009年孟买断网说法站不住脚 — kingslyj · 2026-10-16
- LlamaIndex 创始人:OpenAI等后训练团队大量招 NLP 博士 — lateinteraction · 2026-10-16
- 马斯克式打法被指是 AI 版「科幻先行」融资术,Altman 照搬 — Linahuaa · 2026-10-16
- 前 DeepMind 研究员 Michal Valko 携隐身 AI 创业公司亮相 — misovalko · 2026-10-16
- 蚂蚁百灵产品负责人播客谈「AGI 不可避免」与开源生态 — ChinaTalk · 2026-10-16