分词导致跨语言知识失效，新方法提升 14 倍
LChoshen · x · 2026-08-30
研究发现，LLM 在跨语言知识迁移上表现不佳，根源在于预训练阶段的分词空间割裂。即使文本和语义完全相同，只要使用不重叠的 Token 空间，模型就会出现“知识隔舱”效应，无法跨语言调用知识。
论文通过控制实验验证了这一点，并提出简单按词翻译映射到共享 Token 空间的方法，成功将跨语言知识学习效率恢复了 12.6%（相比基线提升 14 倍）。
「模型」频道最新
- Liquid AI 发布 LFM2.5-2.6B 模型，树莓派即跑 Agent — emmanuelvivier · 2026-08-30
- Writer 推出 Palmyra X6 模型，宣称降低 52% Agent 成本 — emmanuelvivier · 2026-08-30
- Claude 拒绝修改文件大小：我不当压缩工具 — gerardsans · 2026-08-30
- 实测腾讯混元 Hy4：执行能力跻身开源模型第一梯队 — HeyAmit_ · 2026-08-30
- Opus 5 惊人实测：无思维链静默完成复杂全栈任务 — PawelHuryn · 2026-08-30
- 评论 GPT-4.5 语言能力与算力稀缺 — haider1 · 2026-08-30