Ripple-65B 开源稠密模型实测:64GB Mac mini 本地跑 7 tok/s
DZhang50 · x · 2026-11-06
RicursiveAI 发布的 Ripple-65B Preview 是一个 65B 参数的稠密开源模型(Apache 2.0,从零预训练)。有用户在 64GB M5 Pro Mac mini 上用社区 MLX 4-bit 量化版做了本地实测:
- 从 512 到 32K token 上下文均稳定在约 7 tok/s
- 峰值内存占用 40.5 GB,64GB 机器仍有余量
- 53 项本地测试全部通过,隐藏事实问答可覆盖到 64K 上下文
- 速度已接近该芯片跑稠密 65B 的极限
模型发布后社区一天内就做出了 MLX 构建,作者认为这是「拥有自己的智能」的好日子。
「Infra」频道最新
- tszzl 呼吁全面对华禁售芯片、云训练与制造设备 — tszzl · 2026-11-08
- nanoGPTJAX 作者预告大改版:拆分硬件内核、瞄准 NVFP4 — A_K_Nain · 2026-11-08
- Zyphra 发布 ZHA 树状稀疏注意力,35B 模型只查 1-6% KV 缓存 — burny_tech · 2026-11-08
- llama.cpp 合并新 PR:MoE 未命中专家可直接在 CPU 上跑 — QuixiAI · 2026-11-08
- DGX Spark 价格开始下探 — AIFlow_ML · 2026-11-08
- MOSS-Image 5B 完整跑进手机 NPU:骁龙 8+ 出 512x768 图约 30 秒 — shirosoro · 2026-11-08