亚马逊团队开源 Rufus-Air:400 块 H200 复现完整后训练流程
JingfengY · x · 2026-10-15
亚马逊搜索团队一个小型研究组基于 GLM-4.5-Air-Base(106B-A12B)从零构建了完全开源、可复现的后训练配方 Rufus-Air,论文与细节已发布在 arXiv。
- 训练规模:全程使用不超过 400 块 H200,只用公开数据与开源组件,无需新的人类标注,也没有内部蒸馏教师模型。
- 八阶段串行流水线:SFT → 推理 RL → 编码 RL → 指令跟随 RL → 通用 Agent → 编码 Agent → 搜索 Agent → RLHF,能力从基础到高级、奖励从硬可验证信号逐步过渡到软的 judge 信号。
- 主要发现:多样且高质量的 SFT 决定能力下限;难度过滤让 RL 提示保持在有效学习区间;奖励可靠性是阶段排序的实用原则;基础设施与工程选择本身就是配方的一部分。
- 效果:超过 GLM-4.5-Air 官方后训练版本,与同规模开源模型具有竞争力。
论文共 48 页、20 张表格,完整记录了数据、奖励设计、基础设施与各阶段结果,供社区复现。
「研究」频道最新
- MagicBeanStalk 论文:88% RLVR 数据陷入零优势陷阱,递归合成提分 8.6 — Lianhuiq · 2026-10-15
- Baker 实验室连发两篇 Nature:计算从头设计金属蛋白酶与半胱氨酸蛋白酶 — ArashVahdat · 2026-10-15
- Player-1:强化学习让 VLM 智能体零迁移玩转 GTA V — yshan2u · 2026-10-15
- Jev 1.14.0 二元问题校准达标,难题上却过度自信 22 个百分点 — shaun117 · 2026-10-15
- AI 的真实工作方式:狂写脚本暴力搜索验证假设 — teortaxesTex · 2026-10-15
- 冯诺依曼妙招:用不均匀硬币抛出完全公平的结果 — doodlestein · 2026-10-15