Inkling 2 Mini 上架 Ollama,16GB 内存即可本地运行
Thinking Machines 发布的 Apache 2.0 开源模型 Inkling 2 Mini 已上架 Ollama(0.40.17 预发布版),可完全本地运行,成为近期本地部署圈的关注焦点。该模型采用循环 transformer MoE 架构(部分层对每个 token 多次循环),总参数 26.4B、激活参数 5.4B(含循环),另有帖子提到在 Mac mini 实测中仅激活 3.4B。
已确认
- 模型以 Apache 2.0 许可开源,架构为循环 transformer MoE,总参数 26.4B、激活参数 5.4B(含循环)
- Ollama 模型页提供 latest、26b-a5b 及 MLX 版 26b-a5b-nvfp4 三个 tag,均约 20GB,支持文本+图像输入,并可通过一条命令接入编码 Agent
- 模型小到可在 32GB+ 内存的 Mac 上运行;Unsloth 发布 GGUF 量化与本地运行指南,称 26.4B MoE 仅需 16GB 内存即可跑通
- 在 DeepSWE 编码基准上成绩为同级最强(据 Unsloth 相关转述)
- 已有开发者拿到早期访问权限后,在一台 Mac mini 上用 Ollama 部署该模型,结合 OpenJarvisAI 实现日程安排等个人 AI 助手功能,完全本地运行
为什么重要
- 循环 transformer 架构让小激活参数实现较强能力,显著降低本地部署门槛,16GB 内存的消费级设备即可运行 26B 级模型
- Apache 2.0 开源加 Ollama 一条命令接入编码 Agent,为个人完全本地化 AI 助手提供了低门槛方案
2026-11-21 ~ 2026-11-21 · 5 条相关
- 第 1 集:Thinking Machines 发布 Inkling 2 Small,下周开源权重(2026-11-06,101 条)
- 第 2 集:Inkling 2 Small 以 0.69 美元生成完整股票尽调备忘录(2026-11-06,2 条)
- 第 3 集:Inkling 2 Small 登顶美国开源模型金融评测(2026-11-06,2 条)
- 第 4 集:前 OpenAI 政策负责人 Brundage 好评 Inkling 2 Small(2026-11-06,2 条)
- 第 5 集:Inkling 2 Small 开源模型刷新代码与金融基准性价比(2026-11-07,2 条)
- 第 6 集:爆料称 Thinky 新模型训练成本大幅降低(2026-11-07,2 条)
- 第 7 集:Inkling 2 Small 架构细节曝光:594B 参数 17B 激活(2026-11-08,2 条)
- 第 8 集:Inkling 2 Small 登陆 OpenCode 限时免费开放(2026-11-08,4 条)
- 第 9 集:Thinking Machines 发布 Inkling 2 Small 并将开源权重(2026-11-09,3 条)
- 第 10 集:Thinking Machines 发布 Inkling 2 Small 并上线 OpenRouter(2026-11-10,2 条)
- 第 11 集:Mira Murati 团队开源 26B 循环 Transformer「Inkling 2 Mini」(2026-11-21,51 条)
- 第 12 集:Inkling 2 Mini 上架 Ollama,16GB 内存即可本地运行(2026-11-21,5 条)
- 第 13 集:Inkling 2 Mini 开源:5.4B 参数追平 27B 级模型(2026-11-21,7 条)
一手来源
- Inkling 2 Mini 模型页详解:MLX 量化版与一条命令接入编码 Agent — ollama ·
- Inkling 2 Mini 本地跑通:26.4B MoE 仅需 16GB 内存,编码成绩同级最强 — simonguozirui · 2026-11-21
- Inkling 2 Mini 跑在 Mac mini 上:26.4B 参数仅激活 3.4B — simonguozirui · 2026-11-21
- 【源头】Inkling 2 Mini 模型页详解:MLX 量化版与一条命令接入编码 Agent — ollama · 2026-11-21
- Thinky Machines Inkling 2 Mini 上架 Ollama,5.4B 激活参数可在 32GB Mac 本地跑 — simonguozirui · 2026-11-21
- Unsloth 量化版 Inkling-2-Mini:26.4B MoE 模型跑进 16GB 内存 — simonguozirui · 2026-11-21