Marin 自曝:Mochi 535B 预训练基准污染去污流程未能拦住

dlwh · x · 2026-11-18

Marin 团队披露,在 Mochi 535B-A23B 预训练中发现了来自常见预训练基准的实质性数据污染,而他们现有的去污染(decontamination)流程未能检测出来。

这是继开放 57 个中间检查点之后又一透明度动作,对业内「去污染流程是否可靠」是一个值得注意的实证案例。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →