Inkling 2 Mini 本地跑通:Mac Studio 解码 210 tok/s,比 Sonnet 便宜 11 倍

teortaxesTex · x · 2026-11-22

Exo Labs 与 Thinky Machines 合作,让 Inkling 2 Mini 在本地设备上高速运行:

在 M5 Ultra 上构建原生天气应用比 Claude Sonnet 5.5 快 1.8 倍,按 API 定价算便宜 11 倍。其循环(looping)架构适合 MacBook 这类内存受限的本地设备:循环层增加推理时计算量(和智能)而不增大模型体积。

所属事件:Inkling 2 Mini 苹果芯片本地跑出 210 tok/s,比 Sonnet 便宜 11 倍(4 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →