Meta 开源推荐系统分析工具,按子模块剖析 TB 级模型性能
_reachsumit · x · 2026-09-28
Meta 发布论文介绍 Component Benchmark(CB),一个面向大规模推荐系统的分层性能剖析工具。推荐模型结构异构、混合了内存带宽受限操作、小算力稠密层与不规则类别特征带来的动态 shape,常规 profiler 只能给端到端吞吐或算子级 trace,无法对应到工程师关心的子模块。
CB 独立基准测试每个子模块,以树状交互视图展示延迟、显存与 MFU;采用插件架构、可扩展。验证场景为 TB 级参数、数千 GPU、每日 1000 亿样本的工业推荐模型,并已在开源模型上展示效果。
「Infra」频道最新
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16
- Stratechery 虚构讣告:假如黄仁勋 2026 年卸任英伟达 — Gregory_C_Allen · 2026-11-16
- vLLM 单 GB300 机架跑 DeepSeek V4.1 Flash 达 954K tokens/s,每小时收入 39 美元 — bookwormengr · 2026-11-16
- 博主测算:Colossus 2 的 120 万块 B200 年推理产出可达 4000 亿美元 — bookwormengr · 2026-11-16
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16
- Qdrant 1.20.1 发布:冷存储读取减半、量化提速 2 倍 — qdrant_engine · 2026-11-16