研究发现负对数几率损失显著提升语言模型数据归因效果
David Bau 团队等人发布 arXiv 论文,并提出 CATT 基准用于评估训练数据归因方法。研究发现,将常用损失函数替换为负对数几率(neg log odds)损失,可全面提升语言模型训练数据归因的效果,使溯源模型输出所依赖的训练数据更加准确可靠。
2026-10-31 ~ 2026-10-31 · 2 条相关
- 研究:换用负对数几率损失可全面提升训练归因方法 — davidbau · 2026-10-31
- CATT 基准揭示:负对数几率损失显著提升 LM 数据归因效果 — davidbau · 2026-10-31