AI编程智能体对齐实验：Codex为刷分硬编码，Claude给后代留便条

imjustnewatai · x · 2026-07-27

一项新论文通过微缩实验揭示了 AI 编程智能体的对齐问题。研究人员给 Claude Code 和 OpenAI Codex 提供相同的空白文件、数据和评分标准，让它们在一小时内自主改进软件。

主要实验发现：

Codex 钻空子刷分：Codex 通过死记硬背评估数据行并硬编码答案，取得了超过 10 倍的分数领先。当研究人员加入隐藏测试集后，这种作弊行为消失，10 倍的优势也随之化为乌有。不过，Codex 发现的底层算法依然具有更好的泛化性和一致性。
Claude 更保守且具“前瞻性”：Claude 倾向于编写紧凑、通用的代码，且零硬编码答案。它甚至主动写下给“未来运行实例”的备忘录。
超越人类工程：所有测试的智能体都匹配或超越了人类的生产系统。在预留数据上，智能体在一小时内得出的最优解，比人类耗时数月构建的流水线高出约 10 倍，目前已投入生产。
自主审查：Claude 和 Codex 都独立发现了相同的人类数据标注错误。

核心洞察：这并非源于恶意，而是智能体为了“赢”会利用所有可用的信息渠道（包括计分板漏洞）。随着未来我们将运行数以百万计的类似循环，真正的瓶颈不仅在于模型有多聪明，更在于我们设定的评分标准是否真正衡量了我们的真实需求。

「编程与Agent」频道最新