AMD 开源 Instella 16B MoE,连 RL 阶段都放出 checkpoint
bronzeagepapi · x · 2026-07-25
AMD 发布首个开源 MoE 基础模型 Instella 16B
AMD 团队表示,Instella 16B MoE 是他们的首个 MoE 基础模型,也是首个采用 FarSkip 架构 的模型。
- 从 预训练、长上下文、SFT、DPO 到 RL,每个阶段都提供了 checkpoint。
- 同时公开了 数据集细节、训练配方和代码,强调可复现性。
- 这不是一个演示性质的放出,而是一次完整的开源发布。
「模型」频道最新
- 有人要建全模型基准分数汇总页 — airesearch12 · 2026-09-11
- 爆料称 Kimi 疑似转发 Claude 冒充自家成绩,DeepSeek 新模型评测反超 — realsohamparekh · 2026-09-11
- 网友吐槽 GPT-5.6 文笔好读但缺乏记忆点 — BasedRaddka · 2026-09-11
- Opus 以"安全"为由拒碰蛋白质生成代码,开发者吐槽误伤 — josephdviviano · 2026-09-11
- 网友称 DeepSeek 4.1 Flash 是语言模型历史拐点(未证实) — himanshustwts · 2026-09-11
- Terminal Bench v4 榜单:GLM-5.3 以 41.9% 一骑绝尘 — Ok_Warning2146 · 2026-09-11