AACL-IJCNLP 双论文：微调对 LLM 内部表征与因果关键层的影响被厘清
Bollegala · x · 2026-09-11
利物浦大学 NLP 团队宣布两篇论文与一个教程中稿 AACL-IJCNLP：
- 微调与内部表征：研究细调如何改变 LLM 内部注意力模式与逐层激活，发现对任务表现具有因果重要性的组件集中在特定层，且其分布与微调中表征变化最大的层基本不相关——「变最多的」和「最关键的」不是同一批层。
- WiC 不是 WSD：分析 Word-in-Context 任务为何对 LLM 仍困难，核心原因不是无法比较两处用法，而是缺少指定语义粒度的显式义项清单；提供候选义项能全面提升 WiC 表现。人类评估显示许多 LLM「错误」实为过度细化的义项区分。
- 作者还将在会上做扩散语言模型（Diffusion Language Models）教程。
「研究」频道最新
- 让果蝇「写字」:神经信号驱动前腿生成手写字体 — dejavucoder · 2026-09-11
- 斯托克斯定理在 Lean 4 中完成形式化,含 d²=0 证明 — basedjensen · 2026-09-11
- Reddit 网友发问：为何没有面向 Agent 运行时而非模型的基准测试？ — Balance- · 2026-09-11
- 西班牙开发者将 PISA 数据预处理成 AI Agent 可直接分析的开源数据集 — pelayoarbues · 2026-09-11
- 小鹏开源X-AuT:渐进式剪枝压缩语音LLM音频编码器 — XPENG-AI · 2026-09-11
- 北航推出UniH3:统一分层同质与异质先验的医疗图像修复 — Beihang · 2026-09-11