蚂蚁开源轻量级 MoE 模型，1.3B 激活跑赢 31B
智东西 · wechat · 2026-08-11
蚂蚁百灵大模型开源了轻量级混合推理 MoE 模型 Ling-3.0-tiny。该模型总参数 7.9B，推理时仅激活 1.3B，专为高效本地部署设计。
- 架构创新：采用 3:1 的 KDA（Kimi 增量注意力）与 MLA（DeepSeek 多头潜在注意力）交替堆叠结构，配合 128 个稀疏专家，兼顾长上下文与计算成本。
- 性能表现：在 ArtificialAnalysis 评测中得分 25，紧咬 Gemma-4-26B，且 Agent 任务得分超越 Gemma-4-31B。
- 端侧部署：提供 BF16、FP8 和 INT4 三个版本，已在 DGX Spark、MacBook 及 Mac mini 上完成验证。FP8 版本在 M4 Pro MacBook 上推理速度达 86-90 tokens/s，首 Token 响应低于 100 毫秒。
所属事件:蚂蚁开源Ling-3.0-tiny：1.3B激活参数登顶HF热门榜(7 条相关)→
「编程与Agent」频道最新
- 用 Codex 17分钟写好 iPhone Duo 抢购程序，41项测试通过 — xiaohu · 2026-10-16
- 生成式 CAD 工具 NativeCAD 提供 177 个 MCP 工具，85% 以上英文建零件需求可通过 — burhop · 2026-10-16
- Flux AI CAD 支持导入 STEP 文件后用自然语言直接改型 — burhop · 2026-10-16
- 同时开 50 个 AI 任务是充电还是烧脑?开发者吵起来了 — zack_overflow · 2026-10-16
- 创业者用 Opus 一次清掉 3 万行技术债,印证「等新模型来重构」策略 — lucasmeijer · 2026-10-16
- 日本工程师用 tmux 搭建 AI agent 组织：每项目一队，人只对接总管 — 4310sy · 2026-10-16