Reflection 新模型以 Apache 2.0 开源,但预训练 MFU 仅约 12% 引质疑

eliebakouch · x · 2026-10-06

Reflection 发布新模型并将权重以 Apache 2.0 许可开源,同时附上技术报告。分析者 Elie Bakrouch 估算其预训练效率偏低:假设 4 周训练中 goodput 约 80%,折算 BF16 MFU 仅约 12%。

架构上采用 global/SWA 交替(比例约 3:1),参数稀疏度略低于其他开源模型(约 5%)。不过训练相当稳定,held-out 代码困惑度上 base 模型优于 DSV4。作者补充表示这对西方开源生态是好事,向团队致敬。

所属事件:Reflection 开源新模型引效率质疑,官方回应 MFU 约 19%(2 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →