Anthropic「蜜罐」评估遭 The Zvi 质疑

The Zvi 发文质疑 Anthropic 的「蜜罐」（honeypot）评估：该评估用泊松近似得出参考答案 84，而题目真实答案 88 按评分规则反而得 0 分，出现 Claude 答错换高分反被赞「诚实」的矛盾。他还批评 Anthropic 公布的目标冲突诱导评测转写样本，认为其中被标注为「不良」的行为实际是良性的，不理解 Anthropic 为何要「毁掉」这样的表现。

2026-11-11 ~ 2026-11-11 · 2 条相关