UCSD 论文提出 LeRoPE:改进旋转位置编码,性能与效率双升

burkov · x · 2026-07-30

加州大学圣地亚哥分校(UCSD)的一项研究提出了 LeRoPE,这是一种对旋转位置编码的新型改进方案。

该方法通过为每个频率学习一个标量,在多种模型规模上均持续优于标准和部分 RoPE,同时所需的计算开销更小。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →