Meta 提出 Axia：少量试跑即可学到推荐排序模型的 scaling law
_reachsumit · x · 2026-11-06
- Meta 团队论文(arXiv:2611.05643)解决大规模排序/推荐模型 scaling law 发现效率问题：这类模型同样受益于增加算力、呈幂律扩展，但架构异质使 scaling law 难以直接套用 LLM 的做法。
- 提出 scaling layer,将底层架构参数按语义分组并定义共变方式，把低维超参数空间映射到完整架构空间。
- Axia 系统在其上拟合 scaling-aware 代理模型，用基于后验的采集准则选择配置，并返回 Pareto 前沿供逐模型验证，用少量信息量高的试跑替代穷举扫参。
- 还给出 fleet 级评估协议，在固定代表性模型集合、匹配试跑预算下比较改进；系统可学习模型特定的复杂度-质量关系并给出不确定性感知的推荐配置。
「Infra」频道最新
- 图表:英国 AI 投资仅占 GDP 0.66%,或错过现代首个科技资本开支热潮 — KeeganMcB · 2026-11-06
- Kimi K3.1 Pro 上线 TPU:2.8 万亿参数 MoE 获得 Day-0 推理支持 — vllm_project · 2026-11-06
- Level1Techs 谈 CUDA 移植滞后:谁把 R9700 做得这么快? — Thrumpwart · 2026-11-06
- 讽刺提议：用氟化液冷却数据中心，好包装成「无水耗」卖点 — typedfemale · 2026-11-06
- 美股单日蒸发 3.8 万亿美元，芯片股独占 1.15 万亿 — CharlieMuirhead · 2026-11-06
- 「这就是我们需要至少一个数据中心/家的原因」 — tech__unicorn · 2026-11-06