MixtureVitae语言能力扩展轨迹可媲美非许可语料库

JJitsev · x · 2026-07-06

计算量扩展分析显示,MixtureVitae(130M 至 1.7B 参数,固定 300B tokens)的语言能力扩展轨迹可与非许可语料库相媲美;随计算量增长,与混合许可数据集的差距不断缩小。

所属事件:MixtureVitae发布:网页文本仅占8%的开源数据集(11 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →