闭路训练27B规划智能体,手机规划基准77.05分居首

Qwen-Planner-Agent: A Closed-Loop AI-for-AI Framework for Real-World Mobile Planner Agents

Tingyu Qu, Weigao Sun, Yuecheng Liu, Yucheng Zhao, Yi Zhu, Yifeng Ding, Qiyi Wang, Sihan Cao, Pengkun Jiao, Hanlei Xie, Xiongwei Wu, Qichao Wang, Haodong Zhang, Jiajun Liu, Yuhao Wang, Yuqing Xie, Junpeng Zhao, Long Chen, Ming Ma, Sihan Yang, Ziwang Zhao, Yanhao Jia, Liangquan Gong, Feida Zhu, Yiran Zhong, Steven Hoi

cs.AI

2026-09-24

阿里用数据飞轮、CARE强化学习与Harness共进化训练手机规划Agent;27B完整系统MobilePA总分77.05,超过GPT 6 Astra的76.84,输出成本更低。

这篇在解决什么

手机上的长程规划又脏又贵:跨 App 协调、状态在变、失败要恢复、还得核对做没做完。真机交互难并行,纯仿真又对不齐权限、登录和跨应用依赖。阿里 MAI 把这个问题当成 AI-for-AI 的试验场:AI 既是被训练的规划模型,也是数据、奖励和运行时脚手架的参与者。目标不是再发一个会点屏幕的 GUI Agent,是一套规划模型加 Harness 的闭路开发流程。

方法

三块咬合,共享「动作-反馈-验证」合约。

AI for Data:任务构造 Agent 把能力缺口写成可执行规格(用户目标、资源、完成标准),不写死唯一轨迹。混合环境里采轨迹:可编程沙箱吃可重置、可验证的任务;LLM 仿真补长尾;真机只覆盖仿真不够的活。成功和失败轨迹都留着。人审核低置信、冲突和安全样本。采样权重按能力、难度和来源调,不按语料体积。

AI for Training:先在校验过的轨迹上做规划冷启动,错误回合 mask 掉。再在混合环境里做在线 Agent RL。CARE(Competence-Aware Reward-and-Advantage Engineering)按一组轨迹的成功率切三种奖励:成功率低时加过程进度,中间段只巩固对错,饱和后才罚执行成本。标准组内标准化会把很小的效率差放大到和胜负同一量级,CARE 给分母加成功方差地板,效率信号不再吞掉正确性。一个有界 LLM 控制器隔 N 步改阈值和权重。

AI for Harness:规划模型参数在服务期冻结。Harness 按当前工具装 Skill、检索持久 Memory、回传结构化反馈。Skill 管「怎么用这些工具」,Memory 管「已经知道什么」(用户偏好、情景、长期事实、带触发条件的前瞻意图)。线下用失败轨迹改数据配方和 Harness 指令,人审之后才进下一轮,形成模型-Harness 共进化,不是服务期自动改权重。

动作主要是结构化工具调用,不是像素坐标点按,工具可以返回视觉观察。

结果

MobilePA-Bench:1700+ 可执行任务、200+ 工具、13 个查询域,用工具结果、终态或行为验证。Qwen-Planner-Agent 27B 总分 77.05,高于 GPT 6 Astra 76.84 和 Claude Opus 5 75.71。相对 Qwen 27B 基座 67.22,工具 77.79、记忆 74.76、技能 86.25、子 Agent 59.55,四项全涨。35B-A3B 从 54.90 到 69.91,仍低于 27B 完整系统。估的输出成本(含思考 token)每千任务 2.41 美元,对照商业模型 3.06–67.76;不含输入 token、工具和真机。

系统OverallToolMemorySkillsSub-agent
GPT 6 Astra76.8475.7174.7393.2553.93
Claude Opus 575.7177.6071.8183.0059.55
GLM 5.373.8876.4472.0777.0058.43
Qwen 27B 基座67.2268.3767.8273.7547.19
Planner-Model 27B71.9072.7970.7479.2555.06
Planner-Agent 27B77.0577.7974.7686.2559.55

CARE 相对 Vanilla RL,训练准确率持平,最终绘制步上输出 token 少 32.5%;去掉优势校准会更短,但准确率平台更低。模型-Harness 共进化在 MobilePA-Internal 上四轮从 82.67 拉到 88.50(+5.83),MCPMark 三轮从 38.00 到 46.98(+8.98)。非手机基准上 27B 规划模型平均 69.29,基座 67.91,MMLU / C-Eval / IFEval 基本保住(综合 89.70 对 90.05)。

为什么重要

这是一份把数据飞轮、能力自适应 RL 和运行时脚手架写成同一合约的工程报告,评测面是真机风格的手机规划,不是只有网页点选。Harness 把会变的工具清单和用户记忆留在模型参数外面,规划能力可以跨部署复用。CARE 把「先做对、再做短」写成组内制度,避免 GRPO 在全对组里疯狂压长度。对要落地手机助理的人,27B 完整系统比 35B-A3B 更强,说明骨干和 Harness 匹配比单纯参数量更要紧。成本数字只覆盖输出 token,拿来对采购价可以,拿来当真实 TCO 不行。

局限与存疑

MobilePA-Bench 是同一团队的基准,和 GPT / Claude 的对比依赖他们的评测脚手架,跨论文不可直接复现。AI-for-AI 的每个发布点仍要人审,结论自己也写成「通向共进化的路径」,不是已经自主演化。真机只是选择性使用,主量来自沙箱和 LLM 仿真,仿真一致性要靠事后校验。35B-A3B 完整系统 69.91,低于 27B 的 77.05,规模叙事在这里不成立。输出成本不含工具和真机,真实交互账单会高一截。非手机基准上 Claw-Eval 27B 从 82.48 掉到 79.58,通用 Agent 能力不是全面上涨。

术语

原文与代码

相关论文

全部论文解读