新知识微调会加剧幻觉
royschwartzNLP · x · 2026-07-09
一篇关于“在新知识上微调大模型为何会增加幻觉”的研究被 COLM 2026 接收。作者发现，给模型加入 100 万条“城市类名称”事实会让幻觉显著上升，而加入同样数量的随机标识符事实则几乎不会。
royschwartzNLP · x · 2026-07-09
一篇关于“在新知识上微调大模型为何会增加幻觉”的研究被 COLM 2026 接收。作者发现，给模型加入 100 万条“城市类名称”事实会让幻觉显著上升，而加入同样数量的随机标识符事实则几乎不会。