仅激活 5.1B 参数,蚂蚁 Ling-3.0-flash 架构与成本深度解析
jkris050 · reddit · 2026-08-05
蚂蚁集团旗下实验室 inclusionAI 于 8 月 4 日以 MIT 协议开源了 Ling-3.0-flash 模型。该模型总参数 124B,但每个 token 仅激活 5.1B(约 1/64),采用 512 个路由专家加 1 个共享专家的架构。
架构亮点:
- 从预训练初期就原生采用混合线性注意力,而非后期改造。
- 包含 35 层 KDA 交替 5:1 的 7 层门控 MLA。
性能与成本争议:
- 实验室自称其性能可媲美甚至超越自家 1T 参数的旗舰模型 Ring-2.6-1T。
- 发帖人指出,如果能将激活参数缩减 12 倍且不损失性能,这重新定义了“廉价模型”的概念——它不再是降级版,而是相同能力下更高效的计算。
- 部署痛点: 目前缺乏 GGUF 和 llama.cpp 支持,需在 4 张 GPU 上运行定制版 vLLM/SGLang。虽然运行成本低,但 124B 的权重意味着显存(VRAM)拥有成本依然高昂。
所属事件:蚂蚁开源Ling-3.0-flash:124B参数仅激活5.1B(11 条相关)→
「Infra」频道最新
- 大厂全做 AI 沙箱,Modal 与 Daytona 靠盒外一层仍居增速榜前列 — FinanceYF5 · 2026-10-26
- Ant 招股书印证「算力是可互换商品」论:单一池动态调度 — BenBajarin · 2026-10-26
- SLC NAND 每 1% 份额增长需多 2% 晶圆产能,闪存或复刻 HBM 行情 — toptickcrypto · 2026-10-26
- NVIDIA Vera Rubin 训 10T 模型只需 1.6 万卡,较 GB200 省 75% GPU — teortaxesTex · 2026-10-26
- Anthropic S-1 自曝:曾多次严重低估算力需求,导致产能受限拖累产品 — JosephJacks_ · 2026-10-26
- Anthropic 算力协议规模暴涨至最高 1205 亿美元 — teortaxesTex · 2026-10-26