Inkling 2 Mini 跑在 Mac mini 上:26.4B 参数仅激活 3.4B
simonguozirui · x · 2026-11-21
Thinking Machines 的 Inkling 2 Mini 被用于搭建完全本地运行的个人 AI 助手:开发者拿到早期访问权限后,在一台 Mac mini 上用 Ollama 部署该模型,结合 OpenJarvisAI 实现日程安排、行程规划、起草短信、发送邮件、管理收件箱等日常任务,全程端侧推理。
模型架构上有意思的点:总参数 26.4B,但每 token 仅激活 3.4B;中间 12 层用相同权重循环跑三次,实现每 token 54 亿权重激活。它可写代码、理解图像并处理多步请求,展示了小 MoE 模型做端侧 agent 的可行性。
所属事件:Inkling 2 Mini 模型上架 Ollama,Mac mini 本地运行引关注(2 条相关)→
「Infra」频道最新
- Eric Topol 转发 Nvidia 投资版图图表:最稳的一环也可能压垮链条 — EricTopol · 2026-11-21
- AI 设计芯片、银行甩锅用户:机器行动、人类担责的时代来了 — r0ck3t23 · 2026-11-21
- 美参议院通过两党法案:数据中心须自付能源成本 — Polymarket · 2026-11-21
- 标普500连跌7日创2020年2月以来最长纪录,AI股重挫 — Polymarket · 2026-11-21
- 传美国芯片出口新规:境外代工芯片也需许可,海外数据中心受限 — JensHonack · 2026-11-21
- 葡语教程:在 Windows/Linux/Mac 本地部署 MiniMax H3 — Ashamed-Rub5601 · 2026-11-21