2 万条实测数据:前沿模型卡在哪,Agent Arena 投诉率揭示三大差距
arena · x · 2026-10-28
Arena 基于 20,869 条 Agent Arena: Code 追踪记录,对比用户对五款前沿模型(均来自 Anthropic 与 OpenAI:Opus 5.5 High、GPT 6.1 Sol Max、Fable 5.1 Max、GPT 6 Astra Max、Sonnet 5.5 Max)与其余 18 个模型的投诉频率,发现前沿模型的优势集中在三方面:
- 更少卡死:有投诉的会话中,修复失败循环少 6.9 个百分点,忽略项目上下文的情况少 1.9 pp
- 品味更好、代码更能跑:设计质量投诉少 6.4 pp,产出不可用的投诉少 5.8 pp
- 更尽职:更好遵循指令(-5.6 pp)、更常完成工作(-4.9 pp)、更少破坏已有成果(-4.5 pp)
而汇报进度、易用性、沟通清晰度等方面差距不显著或处于置信区间内。
「编程与Agent」频道最新
- IBM 技术大会总结企业落地 AI 智能体的三大挑战 — craigmullins · 2026-10-29
- Pydantic 作者 FastAPI 大会分享:如何搭建反馈回路让模型写出好代码 — samuelcolvin · 2026-10-29
- 项目经理自述:AI Agent 已自动化其 70% 日常工作 — Theinkling620 · 2026-10-29
- Vercel 工程师分享 video.md:给人和 agent 看的视频生成工作流 — JohnPhamous · 2026-10-29
- Expo 晒 AI 编码打造原生 iPhone 双人应用,发布赶在预约 AppleCare 前 — Dimillian · 2026-10-29
- LangChain:MDA 上线动态调度后 70% 运行来自定时任务 — LangChain · 2026-10-29