COLM 2026 论文:代码切换机制提升多语言对齐
kchonyc · x · 2026-08-15
论文《Gradual Code-Switching as Inference-Time Cross-Lingual Representational Alignment for LLMs》提出了一种名为代码切换上下文学习(CSICL)的推理时机制,旨在解决 LLM 在多语言场景下偏向英语表征的问题。该方法不是通过突然的翻译转换,而是通过从目标语言逐渐过渡到英语来构建推理轨迹,从而将非英语输入与以英语为中心的推理空间对齐。
核心结论与数据:
- 在 4 个 LLM、6 个数据集和 10 种语言上的实验显示,CSICL 一致优于跨语言上下文学习基线。
- 平均性能提升:目标语言 6.0 个百分点,未见语言 4.8 个百分点。
- 在低资源语言设置下提升更为显著,目标语言和未见语言的增益分别达到 14.7pp 和 5.3pp。
「研究」频道最新
- RadFusion:可控制阈值的新框架,让AI生成放射学报告适应临床需求 — erichorvitz · 2026-08-15
- 探讨因果模型与机制模型的定义差异 — sirbayes · 2026-08-15
- New England 机械可解释性研讨会首日举行 — benno_krojer · 2026-08-15
- 新论文呼吁 NLP 研究者关注模型长期福祉对齐 — 996roma · 2026-08-15
- 论文揭示 LM Head 成为梯度瓶颈,权重绑定引关注 — JFPuget · 2026-08-15
- Weights Unknown 会议聚焦扩展与智能体 — DynamicWebPaige · 2026-08-15