研究对比自回归与判别式模型：输出分布错位致泛化失败
ysu_nlp · x · 2026-09-24
作者分享一项对比研究：在从已见数据到未见数据的泛化上，自回归模型（ArcaneQA）的输出概率分布明显偏向已见数据，导致分布失配与泛化失败；而判别式模型（Pangu）在已见与未见数据上的输出概率分布对齐得多。论文链接见原帖。
所属事件:ACL'23 杰出论文：判别式模型泛化能力优于自回归(3 条相关)→
「研究」频道最新
- Yoav Goldberg 点评：LLM 靠类比 CRISPR 识别出生物学新模式 — yoavgo · 2026-09-24
- 新基准 TRACES 不看答案对错,专评 AI 解决未知问题的过程能力 — dr_cintas · 2026-09-24
- ECCV MMBU 基准揭示:视觉语言模型答对题却认不出图像模态 — davidjhwu · 2026-09-24
- 研究发现:作者其实能较准预测自己哪篇论文高被引 — RexDouglass · 2026-09-24
- Applied Compute 用 Jev 自动聚类 RL 训练中的失败模式 — rhythmrg · 2026-09-24
- 递归自我改进的经济学:AI 加速自身的成本收益账 — CFGeek · 2026-09-24