Olmo Hybrid 以 7B 开源 Transformer-RNN 设计入选 COLM

SonglinYang4 · x · 2026-07-21

Allen AI 的 Olmo Hybrid 被 COLM 接收。

这是一款 7B、完全开源 的模型,把 Transformer 和 线性 RNN 层结合在一起。团队称它在各项评测上 明显优于 Olmo 3 7B,并同步给出了解释这种混合架构有效性的 新理论与 scaling 实验。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →