研究揭示大模型微调后的“知行差距”困境

最新研究揭示了大模型微调中普遍存在的“知行差距”现象:模型虽能快速记住新事实,但在多跳推理等下游任务中却难以泛化应用。论文指出,其根本原因并非知识未被吸收,而是新学到的知识与模型内部的推理电路未能有效对齐。这一发现为理解大模型的知识内化与泛化瓶颈提供了全新视角。

2026-07-13 ~ 2026-07-13 · 2 条相关