在 M2 MacBook 上跑本地模型,能实时看推理全过程

vboykis · x · 2026-11-23

vboykis 分享用 LM Studio 在 M2 MacBook 上本地运行 Thinking Machines 的 inkling 2 mini 模型时,可以实时观察推理发生的日志流:每个生成的 chunk、prompt/completion token 数(示例中 6719 prompt tokens、473 completion tokens,含 100 reasoning tokens)一目了然。本地推理的透明性是云端 API 体验不到的乐趣。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →