PNAS 研究:LLM 是模态寻找者,生成分布易失真

一篇发表于 PNAS 的论文指出,LLM 在学习和推理中表现出显著的「模态寻找者」模式:当用于生成样本轨迹时,模型输出倾向于集中在高概率模态附近,而非忠实重现底层分布。这意味着 LLM 极擅长寻找高概率模式,但其生成样本的分布会发生失真,在使用 LLM 进行采样类任务时需注意这一局限。

2026-08-25 ~ 2026-08-26 · 2 条相关