Inkling 2 Mini 跑在 Mac mini 上:26.4B 参数仅激活 3.4B

simonguozirui · x · 2026-11-21

Thinking Machines 的 Inkling 2 Mini 被用于搭建完全本地运行的个人 AI 助手:开发者拿到早期访问权限后,在一台 Mac mini 上用 Ollama 部署该模型,结合 OpenJarvisAI 实现日程安排、行程规划、起草短信、发送邮件、管理收件箱等日常任务,全程端侧推理。

模型架构上有意思的点:总参数 26.4B,但每 token 仅激活 3.4B;中间 12 层用相同权重循环跑三次,实现每 token 54 亿权重激活。它可写代码、理解图像并处理多步请求,展示了小 MoE 模型做端侧 agent 的可行性。

所属事件:Inkling 2 Mini 模型上架 Ollama,Mac mini 本地运行引关注(2 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →