Mac Mini 跑出 200+ tokens/s：Maple 开源三值权重模型
garrytan · x · 2026-08-05
DeepGrove 推出开源的 Maple-Preview 模型，这是一个拥有 200 亿参数（激活参数约 10 亿）的三值权重（ternary-weight）推理大模型。
该模型在同等权重级别中达到 SOTA 水平，能够解决国际奥林匹克数学竞赛（IMO）级别的难题。得益于三值权重设计，它在 Mac Mini M4 上能实现 每秒 200+ tokens 的生成速度，比 Gemma、Qwen 等同级别高效模型快 5 到 16 倍。
所属事件:DeepGrove发布开源模型Maple，Mac Mini跑出超200 tokens/s(4 条相关)→
「Infra」频道最新
- 升级 CUDA 至 13.3 解决 DeepSeek V4 循环输出问题 — Easy_Werewolf7903 · 2026-08-05
- NVIDIA 实战：在 DGX Station 本地部署 550B 参数 Nemotron 3 Ultra — NVIDIA Developer · 2026-08-05
- Together AI 月处理 Token 数从 300 亿飙升至 400 万亿 — togethercompute · 2026-08-05
- API 密钥过期致 Agent 失控，一夜烧光 300 美元算力 — voooooogel · 2026-08-05
- 用 GLM 智能体 20 分钟打造像素屏 GPU 集群监控面板 — Porespellar · 2026-08-05
- DeepSeek-V4-Flash 成功在 4 张 4090 上跑通 256k 上下文 — dangerous_inference · 2026-08-05