在 M2 MacBook 上跑本地模型,能实时看推理全过程
vboykis · x · 2026-11-23
vboykis 分享用 LM Studio 在 M2 MacBook 上本地运行 Thinking Machines 的 inkling 2 mini 模型时,可以实时观察推理发生的日志流:每个生成的 chunk、prompt/completion token 数(示例中 6719 prompt tokens、473 completion tokens,含 100 reasoning tokens)一目了然。本地推理的透明性是云端 API 体验不到的乐趣。
「模型」频道最新
- RLHF 研究者 Nat Lambert:RL 正在「烤干」模型多样性 — natolambert · 2026-11-23
- Bittensor 子网 92 号称产出 200 倍速于 LLM 的 JEV 决策模型 — markjeffrey · 2026-11-23
- 物理学家称其私有黎曼猜想研究被 Claude 独立复现结论 — bdsqlsz · 2026-11-23
- 实测 pi 适配器让 Qwen 3.8 27B 工具调用减少 4 倍、提速一半 — Fabulous_Pollution10 · 2026-11-23
- Pedro Domingos:OpenAI 承认预训练能力自 2022 年来几乎没进步 — pmddomingos · 2026-11-23
- Inkling-2-Mini 单卡本地跑出 KernelBench-Mega 10.04x,超越多家旗舰 — ziqiao_ma · 2026-11-23