研究者称 LLM 评测指标选择或无统一答案
研究者 Ian Arawjo 正在研究基于秩的 PPI(预测功率推断)检验,发现其统计性质与参数化 PPI 明显不同,感觉「像在发现某种新物理」,这些性质将影响论文中 LLM 评审结果的报告规范。相关讨论提出,「应该报告哪种 IRR 指标」可能没有脱离研究设计的通用答案,正确指标应基于特定测试对比、特定数据集、特定设计和效果量来计算。
2026-08-21 ~ 2026-08-21 · 2 条相关
- 研究者探究秩 PPI 检验:LLM 评审指标选择或无统一答案 — IanArawjo · 2026-08-21
- LLM 评测指标需结合具体实验设计与效果量决定 — IanArawjo · 2026-08-21