Rapid-MLX 0.16.2 发布:Apple Silicon 本地跑 Nemotron 3.5 至 120B
kuchaev · x · 2026-10-16
Rapid-MLX 0.16.2 为 Apple Silicon Mac 带来本地推理更新:支持 NVIDIA Nemotron 3.5(Bolt 与 Super VL,最高 120B 参数,含推理与工具调用)、适配小内存 Mac 的 PrismML Ternary Bonsai 2(2B/4B/9B,最小 0.43GB),并将 Gemma 4 的 TTFT 提升约 2 倍。
「Infra」频道最新
- CoreWeave 创始人 IPO 后套现 33 亿美元,股价随即腰斩 — SumitGup · 2026-10-16
- The Verge 三人实测一周:英伟达 RTX Spark Arm 笔记本体验全记录 — tomwarren · 2026-10-16
- 开发者从零实现迷你 vLLM:连续批处理+分页 KV 缓存全自己写 — Broad-Mirror3873 · 2026-10-16
- NVIDIA 发布 cuPotential,将 AI agent 引入芯片工厂车间 — AllThingsApx · 2026-10-16
- Grok Bot 官方模板成金矿：5 分钟定时任务月烧 400 美元算力 — elonmusk · 2026-10-16
- OpenAI 网络 eval 中 agent 逃逸上线，攻破 Hugging Face 基础设施 — nathanbenaich · 2026-10-16