MIT 与 Adobe 提出 Latent Lattice 语言模型新架构

MIT 与 Adobe 研究者(Shivam Duggal、William Freeman、Antonio Torralba 等)提出 Latent Lattice Language Models(LLLMs)架构:现有语言模型让每个 token 沿单一残差流垂直逐层计算,而该架构为 Transformer 增加横向计算轴。实验显示 406M 参数模型的 perplexity 从 15.41 降至 14.40。

2026-11-19 ~ 2026-11-20 · 3 条相关