Ling-3.0-flash 开源:127B 参数 MoE 架构,官方 FP8 仅需 128GB
derspenti · reddit · 2026-08-04
inclusionAI 的 Ling-3.0-flash 模型权重已在 Hugging Face 公开,采用 MIT 协议。
- 架构与参数:总参数量 127.5B,激活参数 5.1B。采用 BailingMoeV3 架构,包含 512 个专家(每 token 激活 8 个),颗粒度比大多数同类模型更细。
- 思维链控制:思考模式(Thinking)可通过 chat template 按需开启,默认开启,无需单独的模型 SKU。
- 本地部署:BF16 版本约 255GB;官方 FP8 版本约 128GB,适合大内存主机或多卡环境直接下载使用。社区正在讨论 llama.cpp 对该架构的兼容性。
所属事件:蚂蚁开源Ling-3.0-flash:124B参数仅激活5.1B(11 条相关)→
「Infra」频道最新
- 分析师:全球 IT 年支出约 3 万亿美元,新增预算持续流向 AI — BenBajarin · 2026-10-26
- Anthropic S-1:每 1 美元收入烧 48 美分算力成本 — nmasc_ · 2026-10-26
- Persistent AI 入驻 UR 网络,隐私推理流量全程加密 — 0xSammy · 2026-10-26
- Anthropic 算力承诺曝光:Google 至少 1145 亿美元居首 — BenBajarin · 2026-10-26
- SpaceX 与 Apollo 达成 400 亿美元 AI 芯片与数据中心硬件租赁协议 — Polymarket · 2026-10-26
- Diamandis 盘点:SpaceX AI 业务年增 830%,Claude 64 小时设计 31.8 万抗毒蛋白 — PeterDiamandis · 2026-10-26