Arena 增加事实性排名
Kyrannio · x · 2026-07-17
Arena 介绍了一个新的模型排名维度：factuality（事实性）。
- 现有排名不再只看人类偏好，而是把 human preference 与 factuality 组合成一个加权指标；这个新视图在 Text Arena 和 Search Arena 中以非默认开关形式提供。
- 他们的做法是随机抽取 battle，提取模型回答里的 可被网页验证的 claims，再逐条核验正确性，比较不同模型的平均正确率。
- 为了支撑这套排名，Arena 已经给 超过 200 万条 LLM 声明做了标注，其中包括 130 万+ Text Arena 和 70 万+ Search Arena 的声明。
- 相关视频还解释了这套方法如何从 Bradley-Terry 目标扩展到同时考虑偏好与事实性，以及为什么模型在“拒答/不做断言”时不应被简单惩罚。
所属事件:Arena 将事实性纳入模型排行榜(12 条相关)→
「研究」频道最新
- Anthropic 让 Claude 自主做对齐研究：AAR 实验验证弱到强监督 — burny_tech · 2026-10-27
- 论文证明语言统计对称性决定模型表示的几何结构 — burny_tech · 2026-10-27
- Anthropic 发表 Claude 3.5 Haiku 电路追踪生物学报告 — burny_tech · 2026-10-27
- 研究者构想用归因图统计跨提示电路激活概率 — burny_tech · 2026-10-27
- 模加法网络不止学 Clock 算法：超参微调会催生全新的 Pizza 算法 — burny_tech · 2026-10-27
- 新论文给 Anthropic J-lens 建数学理论：它为何专挑"类工作记忆"特征 — burny_tech · 2026-10-27