PNAS 研究:LLM 是模态寻找者,生成分布易失真
一篇发表于 PNAS 的论文指出,LLM 在学习和推理中表现出显著的「模态寻找者」模式:当用于生成样本轨迹时,模型输出倾向于集中在高概率模态附近,而非忠实重现底层分布。这意味着 LLM 极擅长寻找高概率模式,但其生成样本的分布会发生失真,在使用 LLM 进行采样类任务时需注意这一局限。
2026-08-25 ~ 2026-08-26 · 2 条相关
- 研究揭示 LLM 是“模态寻找者”:生成分布易失真 — MengdiWang10 · 2026-08-25
- PNAS 研究:LLM 更擅长寻找高概率模式而非忠实分布 — gerardsans · 2026-08-26