LLM裁判存在分数区间偏差
xennygrimmato_ · x · 2026-07-15
这篇 ACL 论文讨论了 **LLM-as-a-Judge** 的一个新偏差:**分数区间偏差(score range bias)**。 ### 核心发现 - 当给裁判模型的评分区间做等价平移时,比如 **1-5** 改成 **2-6**,模型对人类判断的相关性会系统性变化。 - 这种变化与被评内容本身无关,说明裁判模型存在此前未被充分记录的评估失真。 - 该现象在不同模型家族中都能观察到,包括 **Llama-3** 和 **Qwen2.5**,并且跨参数规模都成立。 ### 论文思路 作者提出用 **contrastive decoding** 来缓解这种偏差。 这条帖文转述的是 PatronusAI 在 ACL 2026 上的论文发布,指向的是评测方法本身的可靠性问题,而不是某个单独模型的榜单成绩。