Inkling 2 Mini 苹果芯片本地跑出 210 tok/s,比 Sonnet 便宜 11 倍
ExoLabs 与 Thinking Machines(Thinky Machines)合作优化开源模型 Inkling 2 Mini 在苹果芯片上的本地推理:在 96GB M5 Ultra Mac Studio 上解码速度达 210 tok/s(另有帖子提到 125 tok/s 的数据),号称同尺寸最强。开发者反馈用它搭建应用比 Sonnet 快 1.8 倍,成本便宜约 11 倍,显示小型模型本地部署的实用潜力。
2026-11-21 ~ 2026-11-22 · 4 条相关
- 第 1 集:Thinking Machines 发布 Inkling 2 Small,下周开源权重(2026-11-06,101 条)
- 第 2 集:Inkling 2 Small 以 0.69 美元生成完整股票尽调备忘录(2026-11-06,2 条)
- 第 3 集:Inkling 2 Small 登顶美国开源模型金融评测(2026-11-06,2 条)
- 第 4 集:前 OpenAI 政策负责人 Brundage 好评 Inkling 2 Small(2026-11-06,2 条)
- 第 5 集:Inkling 2 Small 开源模型刷新代码与金融基准性价比(2026-11-07,2 条)
- 第 6 集:爆料称 Thinky 新模型训练成本大幅降低(2026-11-07,2 条)
- 第 7 集:Inkling 2 Small 架构细节曝光:594B 参数 17B 激活(2026-11-08,2 条)
- 第 8 集:Inkling 2 Small 登陆 OpenCode 限时免费开放(2026-11-08,4 条)
- 第 9 集:Thinking Machines 发布 Inkling 2 Small 并将开源权重(2026-11-09,3 条)
- 第 10 集:Thinking Machines 发布 Inkling 2 Small 并上线 OpenRouter(2026-11-10,2 条)
- 第 11 集:Thinking Machines 开源 Inkling 2 Mini:小模型追平旗舰(2026-11-20,20 条)
- 第 12 集:Thinking Machines 开源 Inkling 2 Mini 模型,Unsloth 推出 GGUF 本地方案(2026-11-20,4 条)
- 第 13 集:Thinking Machines 发布 26B 循环 Transformer「Inkling 2 Mini」,笔记本可跑(2026-11-21,89 条)
- 第 14 集:Inkling 2 Mini 苹果芯片本地跑出 210 tok/s,比 Sonnet 便宜 11 倍(2026-11-21,4 条)
- 第 15 集:Inkling 2 Mini 本地实测热潮:速度快、编码强,部署仍折腾(2026-11-21,6 条)
- 第 16 集:Unsloth 发布 Inkling-2-Mini 本地部署指南,最低 9GB 内存可跑(2026-11-21,2 条)
- Inkling 2 Mini 开源模型 Mac 本地跑 125 tok/s,号称同尺寸最强 — simonguozirui · 2026-11-21
- Inkling-2 Mini 本地跑出 210 tok/s,建应用比 Sonnet 快 1.8 倍 — SonglinYang4 · 2026-11-21
另有 2 条近重复转述:teortaxesTex · pcuenq