蚂蚁百灵开源 Ling-3.0 Base 模型,开放预训练权重
智东西 · wechat · 2026-08-20
蚂蚁百灵开源了 Ling-3.0-tiny-base (7.9B) 和 Ling-3.0-flash-base (124B) 两款 Base 模型,并同步开放了预训练、中期训练及 WSM 合并阶段的共 6 个 checkpoints。Tiny 版本激活参数 1.3B,适合代码训练和强化学习研究;Flash 版本激活参数 5.1B,主打代码、长上下文与复杂推理。模型采用 WSM(Warmup-Stable-Merge)学习率方案,通过 checkpoint 加权合并替代传统衰减,更适合持续预训练。
所属事件:蚂蚁百灵开源 Ling-3.0 全阶段基础模型检查点(6 条相关)→
「模型」频道最新
- Meta 开源 Muse Spark Open:SGLang 一天支持,NVFP4 内核提速近 4 倍 — BanghuaZ · 2026-10-16
- Prompt 里写 load-bearing 可让 Opus 5.5 全力输出不藏拙 — zacharynado · 2026-10-16
- 美国人来中国出差用 Claude 也被封号 — dotey · 2026-10-16
- 逐条核算 Grok Bot 账单:五天烧穿 $20 到 $200,长任务占 52% — jonathanmalkin · 2026-10-16
- NVIDIA 开源 Nemotron-3.5-Embed-1B:图文物页检索、34 种语言的通用嵌入模型 — jacek2023 · 2026-10-16
- EpochAI 估 GPT-6 训练算力 4.6e26 FLOP,引算力圈质疑参数高估 — scaling01 · 2026-10-16