Ling-3.0-tiny 发布:1.3B 活跃参数跑赢 GPT-OSS 120B
solyarisoftware · x · 2026-08-11
Ling-3.0-tiny 是一款专为推理、工具调用和智能体设计的开源模型。它采用 128 专家稀疏 MoE 架构，总参数 7.9B，但每 token 激活参数仅 1.3B。
- 性能跑分：在 Artificial Analysis 上表现优异，GPQA Diamond 得分 73.4，IMO-AnswerBench 达到 71.0，以极小体量超越了 OpenAI 的 GPT-OSS 120B (high)。
- 本地部署：提供 BF16、FP8 和 INT4 多种权重。其中 INT4 版本仅需约 5.8GB 内存，FP8 在 8K 上下文峰值内存约 8.34 GiB。
- 推理速度：在 DGX Spark 上可达约 100-105 tok/s，在 M4 Pro MacBook 上约为 86-90 tok/s。
- 运行支持：目前已支持 SGLang、vLLM 以及 Apple Silicon 的 MLX，llama.cpp / LM Studio 等工具尚待跟进。
所属事件:蚂蚁开源Ling-3.0-tiny：1.3B激活参数登顶HF热门榜(7 条相关)→
「Infra」频道最新
- 同样 1000 个 Cloudflare Durable Objects，月成本从 4050 美元压到 22 美元 — threepointone · 2026-10-16
- NVIDIA 发布 Qwen3.8-Flash FP4 量化版，主打本地部署 — nvidia · 2026-10-16
- 百度提出 Virtual Head Attention：同时压 KV cache、算力并保质量 — baidu · 2026-10-16
- DuoDiscover 让 Agent 自建快速评估代理，TPU 内核提速 2.68 倍 — berkeley_ai · 2026-10-16
- Google 将 2026 年资本开支上调至最高 2050 亿美元 — emmanuelvivier · 2026-10-16
- Google 开源 AX:像 Kubernetes 一样编排数十亿 Agent 任务 — thisdudelikesAI · 2026-10-16