Olmo Hybrid 以 7B 开源 Transformer-RNN 设计入选 COLM
SonglinYang4 · x · 2026-07-21
Allen AI 的 Olmo Hybrid 被 COLM 接收。
这是一款 7B、完全开源 的模型,把 Transformer 和 线性 RNN 层结合在一起。团队称它在各项评测上 明显优于 Olmo 3 7B,并同步给出了解释这种混合架构有效性的 新理论与 scaling 实验。
「研究」频道最新
- OpenAI 发布 reward-seeking 研究与测量方法 — OpenAI · 2026-07-22
- Reddit 转发 OpenAI 的 ChatGPT 广告页面 — EcstaticAsparagus509 · 2026-07-22
- 开源 runtime 让每个仓库自定义 AI 代码审查器 — ibabufrik · 2026-07-22
- OpenAI 与 Apollo 推出 Contrastive SDF 量化奖赏投机 — OpenAI · 2026-07-22
- NVIDIA:先调好 Harness,再去调模型 — NVIDIAAI · 2026-07-22
- AI 发展的瓶颈:从互联网数据红利到高质量反馈闭环 — dyamins · 2026-07-22