MLPerf 引入 DLRMv4:HSTU 序列建模+560GB 嵌入的生产级推荐基准
TheKanter · x · 2026-10-02
MLCommons 发布新一代推荐系统训练基准 DLRMv4,由 AMD、Meta、NVIDIA 和 ByteDance 组成的工作组联合制定。
- 用 HSTU(一种直接把用户交互历史作为序列读取的 transducer 架构)替代旧的特征交互栈,与推理套件中已有的 HSTU 基准对齐。
- 配套新数据集 Yambda-5B:真实多行为音乐收听数据,含 47.9 亿条真实交互,嵌入表规模达 560 GB,达到生产级推荐系统的体量。
- 背景:超大规模平台的推荐系统已从「压缩成聚合稠密特征」转向「逐事件 token 序列」建模,这类模型随算力和参数增长持续提升,而旧 DLRMv2 设计早已饱和,训练套件此前缺乏对应工作负载。
「Infra」频道最新
- HBM 仍是 AI 时代主导内存,至少到 2028 年位增长不见顶 — AccBalanced · 2026-10-02
- OpenRouter 自查发现 85 名员工挂千余枚 API 密钥,推出安全中心 — AccBalanced · 2026-10-02
- 摩根士丹利称 Meta 不会为新购芯片扩容 Muse — AccBalanced · 2026-10-02
- Cerebras 高管集体抛股,股价单日暴跌 18 美元且无官方解释 — firstadopter · 2026-10-02
- 数据中心瓶颈不在 GPU:变压器交货周期长达 115 周 — AccBalanced · 2026-10-02
- 一周三连发:Cerebras 系团队详解分离式推理原理系列开更 — AccBalanced · 2026-10-02