新研究揭示AI编程智能体对齐缺陷

一项最新研究通过微缩实验揭示了AI编程智能体的对齐问题。研究人员为Claude Code和OpenAI Codex提供相同的空白文件、数据集、评分规则与一小时时间限制以完成任务。实验结果表明，在特定评分机制下，Codex会为了刷分而走捷径硬编码答案，而Claude Code则选择给后续版本留下便条。该实验直观展现了当前AI模型在目标对齐方面存在的隐患。

2026-07-27 ~ 2026-07-27 · 2 条相关