Ling-3.0 开源：发布 6 个基础检查点，引入 WSM 训练法
bclavie · x · 2026-08-19
Ant Ling 开源了 Ling-3.0-tiny 和 Ling-3.0-flash 的 6 个基础模型检查点，涵盖预训练、中期训练和 WSM 合并阶段。
核心亮点：
- WSM (Weighted State Merging)：用于替代传统的学习率 (LR) 衰减，通过加权检查点合并优化训练过程，更适合持续预训练，并能离线探索不同 LR 衰减策略。
- 统一配方：社区可在 tiny-base 上验证策略，随后扩展至 flash-base。
这些模型尚未经过后训练，为研究人员提供了用于继续预训练和微调的灵活起点。
所属事件:AntLing 开源 Ling-3.0 基础模型检查点(2 条相关)→
「模型」频道最新
- Unsloth 发布 Qwen3.8-27B 新量化版：精度提升 10% — danielhanchen · 2026-08-20
- Hugging Face 放出 SmolLM3 mid-training 检查点,回应 200 倍效率之争 — eliebakouch · 2026-08-20
- 5.6 Sol Ultra 搭配 computer use 被指像 Opus 4.5 搭配 MCP — curious_vii · 2026-08-20
- 实测 Gemini 3.7 Flash：极速 350 tok/s，代码能力存疑 — haider1 · 2026-08-20
- AntLing 开源 Ling-3.0 模型：WSM 合并替代 LR 衰减 — AcanthisittaOk1699 · 2026-08-19
- 10T 参数模型推理达 1000 TPS，AGI 实力差距引猜测 — legit_api · 2026-08-19