GPT-6 Astra 刷爆 ARC-AGI-3:满分、零推理 token 与 harness 争议
GPT-6 Astra 在新一代交互式推理基准 ARC-AGI-3 上取得突破性成绩:ARC Prize 官方与 François Chollet 称之为「阶跃式」能力飞跃。标准评测 harness 下得分约 63%66%,专用 provider-adapter harness(连续对话模式)下接近满分(99%99.9%),完成任务的操作步数少于人类玩家平均。结果引发关注的原因有二:分数随评测框架剧烈波动;模型在低推理档位下大量动作不消耗推理 token,指向隐式推理能力的可能跃升。
已确认
- ARC Prize 官方博客与 François Chollet 公布:GPT-6 Astra 在 ARC-AGI(-3) 上取得 SOTA,标准无偏评测约 63%66%,provider adapter harness 下达 99%99.9%,并在 96% 的任务上表现优异(m1、m5、m9、m10)。
- OpenAI 工程师 Steven Heidel 介绍 Responses API 新增 compaction(上下文压缩)功能,可压缩长对话状态、帮助 agent 在长任务中控制上下文与成本;开启 compaction 后 GPT-6 Astra 在 ARC-AGI-3 达到满分,超过 Opus 5 和 GPT-5.6 Sol(m3、m6、m8、m9)。
- Astra 完成任务所用步数比人类玩家平均更少(m1)。
- Mike Knoop 公布的测试图表显示:较低 reasoning 档位下 Astra 每步动作经常输出零个推理 token,且准确率反超 GPT-5.6 Sol 最高档两倍(m2);mhmazur 的行为统计给出更细数字——标准环境低推理力度下,GPT-5.6 Sol 有 98% 的动作使用推理 token,而 GPT-6 Astra 仅约 27%(m7)。
- 有用户晒出 GPT-6 Astra 无 CoT 在 ARC-AGI-3 得 97%,发帖人注明成绩测自 provider-adapter harness,但仍认为结果「相当离谱」(m4)。
尚未确认
- mhmazur 等人指出满分成绩的评测口径并不完全公平,不同 harness 间分数差异(62.7% 到 99.9%)的具体成因尚待更透明的说明(m5、m8、m9)。
- 零推理 token 现象是否确证「隐式推理」能力大幅跃升,目前仍是基于行为统计的推断(m7)。
为什么重要
- 分数随评测框架剧烈波动,凸显交互式 agent 基准的 harness 设计对结论影响巨大,社区对「刷满」说法需区分口径。
- 多数动作不产出推理 token 却仍取得高分,若隐式推理成立,将挑战「显式思维链才带来强推理」的主流假设。
- Responses API compaction 显示上下文管理正成为长程 agent 任务的关键工程杠杆。
2026-09-04 ~ 2026-09-05 · 10 条相关
- 第 1 集:OpenAI 发布旗舰模型 GPT-6 Astra:高价上线引热议(2026-09-04,190 条)
- 第 2 集:GPT-6 Astra 刷爆 ARC-AGI-3:满分、零推理 token 与 harness 争议(2026-09-04,10 条)
- 第 3 集:OpenAI 工程师:按 token 计价失真,应按任务算成本(2026-09-04,4 条)
- 第 4 集:OpenAI 被曝发布后悄悄修改 GPT-6 Astra 评测数据(2026-09-05,4 条)
- 第 5 集:用户实测称 GPT-6 Astra 登顶 agentic CAD 榜单(2026-09-05,2 条)
- 第 6 集:网传 GPT-6 Astra 连跑 Blender 五小时完成 3D 建模(2026-09-06,2 条)
- 第 7 集:Astra 创纪录发布,OpenAI 被传提前路线图(2026-09-06,2 条)
一手来源
- Astra 刷满 ARC-AGI-3 基准,用步数比人类平均更少 — ObiWanCanownme ·
- GPT-6 Astra 横扫 ARC-AGI-3:标准 66%,专用 harness 近满分 — AccBalanced ·
- GPT-6 Astra 玩 ARC-AGI-3 仅 27% 动作用推理 token,隐式推理疑大幅跃升 — mhmazur ·
- 【源头】Astra 刷满 ARC-AGI-3 基准,用步数比人类平均更少 — ObiWanCanownme · 2026-09-04
- OpenAI 推出 Responses API Compaction,GPT-6 Astra 刷爆 ARC-AGI-3 — stevenheidel · 2026-09-04
- GPT-6 Astra 满分 ARC-AGI-3,但评测口径并不公平 — mhmazur · 2026-09-04
- 爆料称 Astra 在 ARC-AGI-3 达 99.9%,基准再被饱和 — smlpth · 2026-09-04
- GPT-6 Astra 无 CoT 在 ARC-AGI-3 得 97%,发帖人直呼离谱 — haider1 · 2026-09-04
- 【源头】GPT-6 Astra 玩 ARC-AGI-3 仅 27% 动作用推理 token,隐式推理疑大幅跃升 — mhmazur · 2026-09-05
- ARC v3 实测:Astra 低档零推理 token,准确率反超 Sol max 两倍 — rbhar90 · 2026-09-05
- GPT-6 Astra 刷爆 ARC-AGI-3:换评测框架从 62.7% 跳到 99.9% — rohanpaul_ai · 2026-09-05
- 【源头】GPT-6 Astra 横扫 ARC-AGI-3:标准 66%,专用 harness 近满分 — AccBalanced · 2026-09-05
另有 1 条近重复转述:stevenheidel