合成数据新基准揭示 token 级归因两大缺陷
davidbau · x · 2026-10-31
这是 davidbau 对同一训练归因研究的前半段介绍：核心技巧是构建一个全新基准，用全新合成数据使 ground truth 无歧义，且多样性与复杂度可配置。借此发现 token 级归因的两大问题：一是文档中多数 token 与查询无关，对整个文档取平均会埋没少数关键 token；二是交叉熵损失的梯度会压低高置信度 token 的得分，抑制模型已学好的事实信号。这些问题直接催生了后续用负对数几率损失修正的方案。
「研究」频道最新
- 礼来与诺和诺德 GLP-1 药物显示可延缓生物衰老时钟 — rand_longevity · 2026-10-31
- Anthropic 用数千个 Claude 红队智能体自动挖出隐蔽训练数据后门 — AnthropicAI · 2026-10-31
- ICLR 论文：只微调部分层的「外科手术式微调」更抗分布偏移 — alexbilz · 2026-10-31
- 前 OpenAI 研究员泼冷水：生物神经元训练视频模型是被夸大宣传 — willdepue · 2026-10-31
- Cherimoya 基因组模型计数性能升至 0.78,VEP 误差近半 — jmschreiber91 · 2026-10-31
- Krueger:研究超人类 AI 应转向分析 PB 级日志而非机制可解释性 — DavidSKrueger · 2026-10-31