IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems
A. Jian Yang, An Huang, Bo Dan, Chen Mu, Chengran Yang, Chuan Shi, Feng Chang, Hongxin Li, Hongyuan Tao, Jinxing Zhang, Jujie He, Kun Wang, Lin Jing, Ming Yang, Qicheng Hu, Renyuan Li, Shark Liu, Shawn Guo, Shi Qing, Shi Zhong, Tianyu Zheng, Wei Liu, Wei Zhang, Wenrui Cai, Wenxiao Chen, Xuxing Chen, Yan Xing, Yi Xing, Yifan Luo, Yiran Xing, Yizhi Li, Yongsheng Kang, Yucheng Ding, Yue Song, Yun Qing, Yunqi Liu, Zelong Huang, Zhengmao Ye, Zhentao Fan, Zhiteng Li, Ziling Huang, Bihong Tang, Bingli Wang, Ce Jun, Changhao Chen, Chen Hu, Chen Xiao, Chi Liu, Chunjiang Ge, Danyang Li, Deyang Kong, Dian Qi, Ding Tan, Evan Yang, Fanglin Xu, Fei Bai, Gang Liu, Guochang Li, Hao Tang, Haoran Feng, Haowen Wang, Huahao Hu, Huanjin Yao, Huatong Song, Jia Deng, Jiajun Wu, Jialiang Cheng, Jiayi Liang, Jiayi Wu, Jie Deng, Jiejun Tan, Jing Yang, Jingda Xu, Junhang Cheng, Junxiao Liu, Kai Lv, Kaixiang Pan, Kecheng Lu, Kun Zeng, Kun Zheng, Kunbo Ding, Liang Qiu, Lingyi Sun, Luan Zhang, Mengxiao Lv, Ning Dong, Pei Wang, Peng Zhang, Qingsong Cai, Qixiang Yin, Qiyao Wang, Renbiao Liu, Renfei Dang, Ruihang Li, Ruirui Huang, Shanhui Yin, Shen Jian, Shengjie Fang, Shikai Li, Shinan Zhang, Shiqi Chen, Shuai Liu, Shuangqi Li, Shuo Tang, Shuqing Deng, Sijin Hao, Siwei Wu, Siyue Wang, Tao Hai, Tao Ren, TingYang Chen, Wei Shao, Weicheng Gu, Weihan Peng, Wenlong Miao, Xavier Yu, Xiangyuan Ji, Xiaocheng Li, Xiaodong Huang, Xiaohan Ge, Xiaoxiang Shi, Xiaoyang Zhang, Xiaoyu Yang, Xidong Wang, Xin Li, Xinyu Tang, Xiyuan Yang, Xudong Ma, Ya Tong, Yachao Wang, Yang Tian, Yaxin Du, Yeli Ruan, Yi Wang, Yi Yu, Yibin Feng, Yibo Tan, Yihang Wang, Yiming Ju, Yinda Chen, Yinda Chen, Yingjie Du, Yiwei Liu, Yizhi Zhou, Yuan Wei, Yuli Chen, Yuqi Zhu, Yuwen Li, Yuxi Dong, Yuxuan Zhang, Yuyang Song, Zhange Zhang, Zhaohan Zhang, Zhaoyi Li, Zhen Zhang, Zhengbo Zhang, Zhihang Hu, Zhiwei Yu, Zhixin Xie, Zhiyu Chen, Zhizhao Luo, Zhongyuan Wu, Zhou Fang, Zhu Lin, Zhuocheng Gong, Zixi Zhao, Ziyang Zeng, Ziyi Wang, Ziyu Zhao, Ran Tao, Mingjie Tang, Chuan Hao, Peihao Wu, Jianzhou Wang, Nan Jiang, Yuan Zhi, Bryan Dai
cs.CL
2026-10-22
320B/15B 开源 MoE,围绕 CLI agent 做三阶段训练,预训练效率 1.93 倍于同数据 Qwen3 基线,CyberGym 84.5 超两大闭源模型。
CLI 是语言模型与外部系统打交道最通用的接口,跑代码、读文件、调工具最后都落到命令行上,agent 的上限越来越取决于模型在终端里能跑多久。开源阵营的 DeepSeek、GLM、MiniMax 都在朝 agent 方向压,但训练管线大多以通用对话或代码补全为中心。IQuest-Q1 做了明确取舍:320B 总参数、15B 激活的开源 MoE,从数据配比到 RL 环境全部围绕命令行 agent 设计。
要跑通这条路有三个工程问题:预训练稳定性,安全学习率与最优学习率的余量决定模型能做多大;agent 轨迹稀缺,高质量 CLI 交互数据集中在少数任务和环境;RL 环境里的 reward hacking,模型钻验证器空子拿奖励,训练信号被污染。
架构是已知组件的组合:88 层,滑动窗口与全注意力按 3:1 交错,query-aware sink token 吸收多余注意力,QKNorm 加 Clip 稳住 Q/K 尺度,256 个专家每 token 激活 8 个,第一层用 dense FFN 缓解最早一层的专家负载不均。预训练从头带两个多 token 预测层,收尾时第一层改造成递归 drafter 服务投机解码,第二层弃用。
Stable SplitNorm 针对 Pre-Norm 的老毛病:残差流方差随深度累积,后面各层的更新相对贡献被稀释,有效深度缩水。IQuest-Q1 把归一化拆开,进 attention 子层前归一化、进 FFN 前不归一化,让 FFN 的更新走一条不被缩放的恒等残差通路,深度利用接近 Post-Norm,稳定性保留 Pre-Norm。直接放大规模会不稳,所以 attention 输出再补一个 RMSNorm 防激活爆炸,第一层加 SandwichNorm。
优化用 Muon 加 μP 参数化,学习率在 896 宽、18 层的小代理模型上搜完零样本迁回,宽 4×、深 4× 范围内验证过迁移。预训练加 mid-training 共 29T tokens,第二阶段分四步把代码占比从 40% 推到 70%,上下文从 32K 逐步拉到 512K,并从真实仓库构造一百万个以上可执行容器化实例,让 agent 在里面滚出有效轨迹。
后训练是管线重点:
防 reward hacking 铺三层:环境准备(清 Git 历史、删解题痕迹)、执行时拦截(网络限制、工具调用预检)、轨迹审计(规则加 LLM 双查,作弊轨迹剔出训练集)。稳定性上,论文借 Critical Batch Size 的思路定义 Critical Model Size,外推出约 572B 激活参数、12T 总参数的稳定规模上限,当前 15B 激活余量很大。
| Benchmark | IQuest-Q1 | GLM-5.3 Flash | Claude Opus 5 | GPT-5.6 Sol |
| CyberGym | 84.5 | 81.6 | 76.2 | 77.6 |
| DeepSWE v1.1 | 64.6 | 63.4 | 73.7 | 73.0 |
| SWE-Bench Pro | 57.5 | 59.4 | 79.2 | 64.6 |
| Terminal-Bench 2.1 | 83.2 | 84.3 | 89.1 | 88.8 |
| Terminal-Bench 4.0 | 22.7 | 32.8 | 53.9 | 37.3 |
| HLE(无工具) | 39.2 | 39.9 | 54.9 | 49.5 |
带 的是 IQuest 团队自测。开源内部也没拉开身位,MiniMax M3 的 DeepSWE v1.1 自测 75.0,高于 IQuest-Q1 的 64.6。
预训练效率是同一份数据下的受控对照,对 Qwen3-30B-A3B 风格基线,IQuest-Q1 架构用约 52% 的计算量达到同等训练 loss,即 1.93 倍 scaling efficiency。
真实场景有两个补充证据:自然语言直接生成浏览器可跑的交互应用,游戏、3D 场景编辑、科学可视化都有示例;三天人机协作安全测试里,人类专家配合模型产出 30 份漏洞报告,全部经独立验证并负责任披露。
开源阵营多了一个 320B 量级、明确押注 CLI 的基座,权重、部署配置和 agent 集成说明一并放出。对多数从业者,可抄的是管线而非权重:多 harness 多版本 RL 让一个 policy 同时适配 Claude Code 和 Codex 的不同版本,解决 agent 模型跨 harness 泛化的问题;三层防 reward hacking 和「策略错误才进梯度」的失败归因,是 agent RL 里少见的写清楚了的工程细节;μP 零样本迁移学习率对算力紧张的团队是直接可抄的配置参考。
最有想象力的一节是 RSI:IQuest-Q1 参与自己的后续开发。一个个案里,agent 在长任务中产生 35 次工具调用错误,自己回溯 6054 次调用,定位到训练数据里工具调用 schema 单一且有预处理错配,提出数据清洗加混合 schema 增强,人类审核后跑了一轮 2.35B tokens、938.7 GPU 小时的训练。人在环上、模型在环里,这是对「递归自我改进」一次相当克制的落地。
作者自述:纯文本输入;生成的解释和代码可能错,代码必须走审查或测试;工具调用用 IQuest 专有格式,结构化执行依赖兼容的 serving parser 和 harness;真实 CLI 任务里可能忽略约束、重复失败、留下没解决的问题。
读下来的存疑:对照表里大量基线分数来自自测,公开分与自测分混排,横向可比性打折;IQuest-CLIBench 是私有 benchmark,53.7 分没有外部锚点。1.93 倍效率的对照对象是 3B 激活的小模型,结论更接近这套设计优于该小基线,向 15B 激活规模的外推没有直接证据。差距也摆在明处:Terminal-Bench 3.0/4.0 得 17.9/22.7,对 GPT-5.6 Sol 的 34.6/37.3 落后约 15 分;HLE 无工具 39.2,对 Claude Opus 5 的 54.9 差 15.7 分,长程终端任务和专家级推理离第一梯队还有距离。RSI 那轮修复训练只说在 held-out schema 上做了评估,没给数字。