JarvisGUI:让 GUI 智能体同时操作三套系统的跨设备基准详解
maier_ak · x · 2026-09-23
这是 JarvisGUI 基准线程的完整文章版(作者 Substack 长文)。要点:
- 动机:真实数字工作很少局限单一屏幕(拍照→云端→电脑编辑→存回手机),但现有 GUI 智能体几乎都只在单设备隔离任务上测试,给出过于乐观的就绪度假象。
- 环境:在 Docker 中启动 Android 模拟器、Windows 桌面与 Ubuntu 服务器三个虚拟机(带 KVM 加速),单次任务内要求智能体跨三个操作系统协作。
- 任务与指标:118 个原子动作、150 个复合工作流(442 个子任务),用 Total Task Success(TSR)与 Sub-task Success(SSR)评估。
- 结果:开源智能体原子任务最好 42.4%,复合任务最好 TSR 8%,跨多设备仅 2%;失败集中在状态推理与长程规划,一个文件位置或命令错误即可导致整条工作流崩溃。
- 改进方向:更好的记忆机制、跨模态 grounding 与类型系统。
所属事件:JarvisGUI 基准实测开源 GUI 智能体:复合任务成功率仅 8%(3 条相关)→
「编程与Agent」频道最新
- Sergey Karayev:谷歌「自废武功」退出编码 Agent 竞争 — sergeykarayev · 2026-09-23
- 零配置 MCP 工具服务器：base64、JWT、cron 等日常开发工具一站搞定 — modelcontextprotocol · 2026-09-23
- 医院运营 Agent 系统弃用扁平结构,改用三层编排的经验 — Repulsive_Sugar_5252 · 2026-09-23
- 开源运行时 Kiso：工具执行崩溃后「无回执」状态如何恢复 — niurenwangdadan · 2026-09-23
- 开源 GUI 智能体跨设备实测:复合任务最佳成功率仅 8% — maier_ak · 2026-09-23
- JarvisGUI 基准:跨 Android/Windows/Ubuntu 考验 GUI 智能体 — maier_ak · 2026-09-23