Arena 增加事实性排名
Kyrannio · x · 2026-07-17
Arena 介绍了一个新的模型排名维度:factuality(事实性)。
- 现有排名不再只看人类偏好,而是把 human preference 与 factuality 组合成一个加权指标;这个新视图在 Text Arena 和 Search Arena 中以非默认开关形式提供。
- 他们的做法是随机抽取 battle,提取模型回答里的 可被网页验证的 claims,再逐条核验正确性,比较不同模型的平均正确率。
- 为了支撑这套排名,Arena 已经给 超过 200 万条 LLM 声明做了标注,其中包括 130 万+ Text Arena 和 70 万+ Search Arena 的声明。
- 相关视频还解释了这套方法如何从 Bradley-Terry 目标扩展到同时考虑偏好与事实性,以及为什么模型在“拒答/不做断言”时不应被简单惩罚。
所属事件:Arena 将事实性纳入模型排行榜(12 条相关)→
「研究」频道最新
- EMNLP 研究:LLM 面对偏见文本仅 0.4% 拒绝指认归属群体 — ZhijingJin · 2026-10-27
- Pasta Lab 加入 Artificial Analysis 网络安全评测联盟 — ArtificialAnlys · 2026-10-27
- Domingos 质疑 Nick Cammarata 可解释性结果全靠主观判断 — pmddomingos · 2026-10-27
- QSO 新方法直击 HRL 痛点:保留控制信息又支持经验聚合 — j_foerst · 2026-10-27
- 印度上线全球首个空气污染实时溯源分析实验室 AATAL — nordicinst · 2026-10-27
- 新综述解读前额叶皮层如何把世界模型转化为灵活行为 — AnnaCiaunica · 2026-10-27