CATT 基准揭示归因方法为何追溯不到模型的训练数据
cindy_x_wu · x · 2026-10-30
研究者发布 CATT 基准，研究一个反直觉问题：即使明确知道模型是从哪些文档学到某个事实，现有归因（attribution）方法也常常找不到这些训练数据。
该基准系统性地探究归因方法失效的原因，并据此提出两个简单的修复方法，提升将模型答案追溯回训练数据的能力。对模型透明度、数据溯源与版权争议相关研究有参考价值。
「研究」频道最新
- Gemini 经模拟患者多轮 RL 训练,双盲测试精神科问诊能力大幅提升 — SRSchmidgall · 2026-10-31
- 斯坦福研究:散步使 81% 受试者创造性思维得分提升 — beechinour · 2026-10-31
- 新论文主张用 20 瓦的脉冲神经网络补充高耗能 Transformer — ziv_ravid · 2026-10-31
- 研究揭示：SOTA 潜在世界模型无一真正建模环境动力学 — udmrzn · 2026-10-31
- kalomaze 公开 LoRA 微调实验：多 epoch 配 WSD 衰减效果最好 — kalomaze · 2026-10-31
- Zip-NeRF 全融合 CUDA 实现：训练快 6-7 倍、渲染快 10 倍 — jon_barron · 2026-10-31