Meta 的 WHALE 论文统一特征交互与序列建模
_reachsumit · x · 2026-07-21
这条帖子的核心是 Meta 的一篇论文:WHALE: A Scalable Unified Model for Recommendation with Wukong-HSTU Architecture。
- 论文把 Wukong 风格的高阶特征交互 和 HSTU 风格的序列建模 统一到每一层里。
- 两者通过基于 attention 的融合机制结合起来。
- 这是一个推荐系统架构研究,而不是产品发布。
「研究」频道最新
- 用小开源模型逆向工程游戏二进制:主 agent 中途重写子 agent 的 harness — yb2698 · 2026-10-26
- 作者:盼合同形式化成为连接 AI 与经济学的「MDP 时刻」 — xuanalogue · 2026-10-26
- 研究发现:前沿 LLM 常为私利单方面撕毁 AI 合同 — xuanalogue · 2026-10-26
- ContractSim:首个评估 LLM 自然语言合同谈判的框架 — xuanalogue · 2026-10-26
- Partial RoPE 研究:仅旋转 10% 维度即可逼近全 RoPE 收敛 — BlancheMinerva · 2026-10-26
- 133 位专利律师实验:同样用 AI,老手被增强、新人陷入认知卸载 — xiaohu · 2026-10-26