分析称某开源 2S 模型明显欠训练,还有 3 倍 token 空间
teortaxesTex · x · 2026-11-07
X 用户 teortaxesTex 长文点评一个新开源模型(代号 2S):
- 该模型明显欠训练,按当前预算还能至少多训 3 倍 token(对比 MiMo Flash 约 4 倍);后训练环节用 MOPD + MixRL 还能再放大一个数量级,环境与数据都有很大提升空间。
- 按 this 轨迹推测:如果其 2T 模型在 3 个月内发布,水平应接近 6.1 Sol,至少超过 6.1 Terra。也指出持续 scaling 需要调整超参和数据配比,否则可能收益递减。
- 评价:远超目前美国开源阵营的水准,与中国最强水平持平且上升轨迹更陡。
- 补充观点:作者担心「Whale」(被指为 infra 驱动设计的厂商)可能因缺乏 scaling 阶梯能力而设计不可扩展、数据质量存疑,未必能明显击败这个模型。
所属事件:博主盛赞中国开源模型,担忧 Meta 排名掉队(3 条相关)→
「漫话AGI」频道最新
- ICLR 2027 审稿提「附录」比例飙至 29%,疑 AI 代写涌现 — nsaphra · 2026-11-07
- SF 机器人圈共识之外:作者断言一两年后一句话即可指挥人形机器人 — carlosdponx · 2026-11-07
- 斯坦福教授 Anshul Kundaje:ML 会议同行评审体系已无法修复 — anshulkundaje · 2026-11-07
- Eric Drexler:别谈乐观概率,要谈选项——超级智能时代的参与者思维 — sebkrier · 2026-11-07
- Musk 描绘太空超智能蓝图:SpaceX 拟每年向轨道部署多达 1 太瓦算力 — XFreeze · 2026-11-07
- 博主判断:AI 生成内容检测将重演网络安全的军备竞赛 — ZeroStateReflex · 2026-11-07