Meta 提出 Axia:少量试跑即可学到推荐排序模型的 scaling law
_reachsumit · x · 2026-11-06
- Meta 团队论文(arXiv:2611.05643)解决大规模排序/推荐模型 scaling law 发现效率问题:这类模型同样受益于增加算力、呈幂律扩展,但架构异质使 scaling law 难以直接套用 LLM 的做法。
- 提出 scaling layer,将底层架构参数按语义分组并定义共变方式,把低维超参数空间映射到完整架构空间。
- Axia 系统在其上拟合 scaling-aware 代理模型,用基于后验的采集准则选择配置,并返回 Pareto 前沿供逐模型验证,用少量信息量高的试跑替代穷举扫参。
- 还给出 fleet 级评估协议,在固定代表性模型集合、匹配试跑预算下比较改进;系统可学习模型特定的复杂度-质量关系并给出不确定性感知的推荐配置。
「Infra」频道最新
- Kosmo×Ropedia 发布 Physical AI 数据集:1589 个 3D 环境与 131 小时第一人称录像 — liuziwei7 · 2026-11-15
- 前微软工程师复盘 Outlook 大面积宕机:到底改坏了什么 — nicolascraske · 2026-11-15
- 曝 AMD 下一代 Siren Halo APU 拟配专用 GDDR7 封装内存,约 2028 年底推出 — Terminator857 · 2026-11-15
- 双 DGX 工作站跑 GLM-5.3:并发 16 达 607.8 tok/s,32 并发延迟飙至 453 秒 — petrusenko_max · 2026-11-15
- 评论员类比微软反垄断案:黄仁勋若离任或成英伟达统治拐点 — TiernanRayTech · 2026-11-15
- 分析师警告:超大规模云厂商或垄断 AI 算力,初创融资恐枯竭 — BenBajarin · 2026-11-15