Meta Andromeda 广告检索吞吐破每秒十亿，较 2024 版提升百倍
jonathanmendez · x · 2026-11-05
Meta 工程博客介绍新一代个性化广告检索引擎 Andromeda，核心是模型、系统与 GPU 硬件的协同设计，把接近排序阶段的模型质量搬到检索阶段。
- 吞吐：生产环境每秒为超过 10 亿条广告打分并返回 top 候选，相比 2024 版 Andromeda 提升约 100 倍，创下检索阶段模型的新吞吐基准。
- 业务效果：自 2025 年以来，Andromeda 为 Facebook 带来 2.4% 的转化提升；广告主在相同延迟预算下获得更大候选池的匹配能力。
- 架构背景：检索是广告推荐流水线的第一阶段，需在毫秒级把海量候选缩到小集合，再由更昂贵的排序阶段精算。历史上排序级的深度模型质量因成本过高无法用于检索规模。
- 技术路线：延续 2024 年在 NVIDIA GH200 Grace Hopper 超级芯片上的部署基础，通过模型-系统-硬件联合设计突破效率边界。
作者为 Haiyu Lu、Shuo Gu 等 Meta 工程团队。
「Infra」频道最新
- Techno Tim 自建家用 AI 平台:三块旧 GPU + vLLM + 语义路由统一入口 — JeremyCMorgan · 2026-11-05
- Marvell 自黄仁勋喊话后暴跌 46%,Gary Marcus 嘲 AI 炒股失灵 — GaryMarcus · 2026-11-05
- megakernel 合并算子,DeepSeek V4.1 Flash 在 AMD 上解码最快提速 2.27 倍 — Electronic-Ebb9771 · 2026-11-05
- Kimi K3.1 Pro 上线 Ollama Cloud：2.8T 参数、美国托管零数据留存 — ollama · 2026-11-05
- Hugging Face 公开模型优化流水线：从 profile 到 kernel 开源分发 — ariG23498 · 2026-11-05
- Reddit 网友提议:用 Agent 把碎片化自定义推理引擎拆解成可复用积木库 — nasone32 · 2026-11-05