20B 模型 Mac Mini 跑出 200+ tokens/s,且可解决 IMO 级数学题
tylerbruno05 · x · 2026-08-05
DeepGrove 团队发布了开源的 20B(A1B)三值权重推理大模型 Maple-Preview,在同级别权重模型中达到 SOTA 水准。
该模型的核心突破在于极致的端侧运行效率:
- 速度极快:在 Mac Mini M4 上能实现每秒 200+ tokens 的生成速度,比 Gemma 4、Qwen3.5 等同级别高效模型快 5 到 16 倍。
- 内存极低:仅需 5.3 GB 内存即可运行。
- 能力出色:能够解决国际奥林匹克数学竞赛(IMO)级别的问题。
- 端侧微调:支持完全在本地设备上进行训练,以学习并适应用户的个人偏好。
「Infra」频道最新
- 马斯克预计首批 Starmind AI 卫星明年开始发射 — Polymarket · 2026-08-05
- 算力成本逆势上涨,数千 Blackwell 租金半年涨 60% — Alec_Coughlin · 2026-08-05
- 马斯克:SpaceX 算力 2027 年将翻三倍,全面押注英伟达 — firstadopter · 2026-08-05
- 马斯克称 SpaceX 已承诺独家使用英伟达 GPU — elonmusk · 2026-08-05
- 太空 AI 数据中心有望在 2027 年落地?预测市场给出 25% 概率 — Polymarket · 2026-08-05
- 传 SpaceX 将采用英伟达芯片,打造轨道太空 AI 数据中心 — Polymarket · 2026-08-05