AndroidLife 真机基准首跑:Qwen3.8-27B 控制 Android 手机成功率仅 56.7%

East-Muffin-6472 · reddit · 2026-09-18

新基准 AndroidLife 用真实手机(非模拟器)让 AI agent 执行日常任务,首跑结果是阿里巴巴的 Qwen3.8-27B 纯文本模式:60 个真实任务成功率 56.7%,已是当前榜单最好的文本模型成绩,但仍败了 43%。

关键数据:

planted 任务设计:11 个 ASK USER 任务(隐藏只有机主知道的事实),模型只在单问任务上主动提问,多问任务从不问;7 个幻觉对照任务中,4 个如实回答「数据不存在」,未捏造。

基准共 530 个公开任务、覆盖 28 天 31 个应用,按设备真实状态评分而非模型自述,后续还将跑 10 个模型。榜单与全部轨迹已公开。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →