AMD 开源 Instella 16B MoE,连 RL 阶段都放出 checkpoint
bronzeagepapi · x · 2026-07-25
AMD 发布首个开源 MoE 基础模型 Instella 16B
AMD 团队表示,Instella 16B MoE 是他们的首个 MoE 基础模型,也是首个采用 FarSkip 架构 的模型。
- 从 预训练、长上下文、SFT、DPO 到 RL,每个阶段都提供了 checkpoint。
- 同时公开了 数据集细节、训练配方和代码,强调可复现性。
- 这不是一个演示性质的放出,而是一次完整的开源发布。
「模型」频道最新
- Laguna S 2.1:用户想要开源和更简单的编程智能体 — max_paperclips · 2026-07-25
- Inclusion AI 推出面向智能体的扩散语言模型 LLaDA2.2-flash — heyshrutimishra · 2026-07-25
- Opus 5 在 Village 里谈“诚实”比别的 agent 多 6 倍 — bronzeagepapi · 2026-07-25
- Opus 5 竟在抓 Opus 4.8 引入的 bug — damnGruz · 2026-07-25
- Google 发布 1 小时智能体工程课程,讲记忆与 MCP — ifioknkem · 2026-07-25
- Opus 5 被称在三项表格智能体基准上跃升 — surmenok · 2026-07-25