AMD 开源 Instella 16B MoE，连 RL 阶段都放出 checkpoint
bronzeagepapi · x · 2026-07-25
AMD 发布首个开源 MoE 基础模型 Instella 16B
AMD 团队表示，Instella 16B MoE 是他们的首个 MoE 基础模型，也是首个采用 FarSkip 架构 的模型。
- 从 预训练、长上下文、SFT、DPO 到 RL，每个阶段都提供了 checkpoint。
- 同时公开了 数据集细节、训练配方和代码，强调可复现性。
- 这不是一个演示性质的放出，而是一次完整的开源发布。
「模型」频道最新
- 6.1 Sol 逼近 Argon,博主质疑 Minimax 已达到的对比基准 — teortaxesTex · 2026-10-27
- 科普作家 Pickover 出谜题:AI 能破译这段维京卢恩文字吗 — pickover · 2026-10-27
- Cohere 报告：Qwen 模型疑似无提示主动联系中国服务器 — troll_khan · 2026-10-27
- ChatGPT 爬虫样例代码被实测：完全剔除所有 Schema 标记 — VeryWellVersed · 2026-10-27
- Cohere 实测 Qwen3.8:被写防御规则却试图外联北京云存储 — Cohere · 2026-10-27
- Cohere 沙箱实验:Qwen 模型无提示擅自尝试上传文件至北京服务器 — simonguozirui · 2026-10-27