Amazon ATTUNE 编码 agent 自动调优训练配方,H100 平均提效 1.7 倍
kalyan_kpl · x · 2026-10-25
Amazon 发布 ATTUNE:一个用于 LLM 训练吞吐调优的编码 agent,已开源(github.com/amazon-science/attune)并附带 OpenRecipes 配方排行榜(openrecipes.ai)。
核心思路
- LLM 训练吞吐取决于「配方」:模型如何在 GPU 间切分、内存与算力如何权衡、选用哪些 kernel 与通信重叠策略。最佳配方随模型、加速器和框架版本变化。
- 现有自动调优器只搜索固定旋钮空间、只检查任务能否跑起来,会遗漏空间外的优化杠杆,甚至悄悄改变训练行为。
- ATTUNE 在 GPU 小时预算内无人值守调优任意可用配方:由搜索规则、脚本和历史调优经验构成的 skill 引导,每次只动一个杠杆逐一诊断;并用正确性门槛拒绝任何改变训练目标的参数改动。
成绩
- 调优 Amazon 生产级 post-training 配方(H100/H200/B200),平均吞吐提升 1.7×。
- 在 NVIDIA AutoModel 框架的四个官方基准配方上超出已公布吞吐 6–17%。
- 对非为其开发的模型提升最大:MiniMax-M2 上最高 2.6×;对厂商已针对同硬件调优过的配方提升最小。
- 同等 GPU 小时预算下,优于贝叶斯优化、随机搜索和近期 LLM-agent 调优器 OptiCo;在 GLM-4.5 上收益是次优方案的四倍多。去掉 ATTUNE 的 skill,同一 agent 收益大减且一半启动失败。
「Infra」频道最新
- NextDC 一天暴跌 40%：真正的瓶颈是电网，不是合同 — ccerrato147 · 2026-10-25
- Neocloud 本质是数据中心抵押贷款：租金在后，利息在前 — ccerrato147 · 2026-10-25
- 韩国 Elice IPO 首日暴跌 32%，超额认购 400 倍也救不了 — ccerrato147 · 2026-10-25
- 单张 AMD MI325X 跑 DeepSeek 552B：四 agent 同时 100 tok/s — realmrfakename · 2026-10-25
- AI 的社会许可写在电价里：预测错了该谁买单？ — krishnan · 2026-10-25
- 港科大联手华为提出 BalanceRoute,破解 MoE 推理负载均衡瓶颈 — jiqizhixin · 2026-10-25