字节等开源 Axion1.0:两阶段 SFT+RL 训出科学智能体,122B 超 GPT-6
机器之心 · wechat · 2026-11-17
杜克大学、字节跳动、马里兰大学与纽约州立大学布法罗分校联合推出 Axion1.0,只用两阶段 SFT 加 RL 的极简流程训练智能体基础模型,并全面开源数据构造、训练代码与模型。
训练流程
- 第一阶段 SFT:对公开科学题做难度增强(把答案变成中间量、扩大取值范围等),收集约 1.08 万条多步推理轨迹,只开 Python 不开搜索;
- 第二阶段 SFT:用公开结构化数据程序化出题(如「有环行星中质量最小者的平均密度」),让模型必须借助搜索、网页访问和 Python 查证,保留约 7500 条工具交互轨迹;
- RL 阶段:异步 GRPO,程序化出题使中间进展可验证,最终答对给完整奖励,经校验的中间步骤给部分奖励,且后续步骤依赖前置步骤通过检查。
主要成绩
- 122B 版本在限制访问的完整 HLE 上取得 59.0%,超过论文所列 GPT-6 Astra(57.2%);
- FrontierScienceResearch 66.7%,超过 GPT-5.6 Sol;
- FrontierScienceOlympiad 87.0%,超过 Gemini 3.1 Pro;
- 35B 版 SEAL-0 62.2%,优于各对比模型。
方法也适用于小模型:仅两阶段 SFT 后,4B/9B 模型在 HLE-130 分别达 53.1%/63.1%。不同 Qwen 底座训练前相差 9.2 个百分点,训练后差距缩小到 0.8 个百分点,说明数据构造可跨底座复用。
「编程与Agent」频道最新
- 开发者打造交互式系统设计可视化学习应用,适合 vibe coding 时代 — jakedahn · 2026-11-17
- 用 Agent 消耗的 token 给信息流排序?Dan Shipper 提出「工作量证明」 — danshipper · 2026-11-17
- Ought 设 Epistemics 基金:50万-500万美元资助事实核查与预测工具 — NathanpmYoung · 2026-11-17
- Agent 版本管理怎么拆:定义、依赖、状态、环境四层分治 — yangyi · 2026-11-17
- steipete 断言「本地不是未来」,呼吁开发者转向云端 Agent — steipete · 2026-11-17
- 1700 万人口深圳被装进浏览器:Tiny Shenzhen 开源上线 — vincent_koc · 2026-11-17