DeepGrove发布Maple模型,Mac Mini端侧推理破200 tokens/s
DeepGrove 团队发布了开源的三值权重推理大模型 Maple-Preview。该模型总参数量达 20B,激活参数为 1B,在同级别权重模型中达到 SOTA 水准。其核心突破在于极致的端侧运行效率,能在 Mac Mini 上实现每秒 200 个以上的 token 生成速度,并具备解决国际奥林匹克数学(IMO)级别难题的能力。
2026-08-05 ~ 2026-08-05 · 2 条相关
- 20B 模型 Mac Mini 跑出 200+ tokens/s,且可解决 IMO 级数学题 — tylerbruno05 · 2026-08-05
另有 1 条近重复转述:ycombinator