Thinking Machines 发布开源模型 Inkling-Small
Thinking Machines Lab 正式发布了 Inkling-Small 模型。这是一款采用混合专家（MoE）架构的原生多模态模型，总参数量达 276B，但每个 token 仅激活 12B，支持高达 1M 的上下文窗口。该模型已全面开放权重，官方及社区均表示其部署门槛显著降低，且性能表现优异。
已确认
- 架构与参数：模型总参数量为 276B，活跃参数为 12B，体积仅为原版 Inkling 的四分之一。该模型支持文本、图像和音频输入，属于原生多模态架构，并具备可变思考强度。
- 上下文能力：支持高达 1M（百万）的上下文窗口。
- 开放权重与部署：模型采用 Apache 2.0 许可，已全面开放权重。官方提供了 NVFP4 量化版本，Unsloth 团队也同步放出了动态量化支持。作者 @pcuenq 指出，其 NVFP4 检查点可在单台 Mac Studio（MLX）上运行，模型占用约 150GB 内存，也可跨两台 128GB 笔记本运行。vLLM 作者 @woosukk 指出，该模型体积小到足以在单张 NVIDIA B300 加速卡上运行，并称赞其可能是同级别中表现最好的模型。
- 性能表现：多位作者转述指出，Inkling-Small 虽然体积大幅缩小，但性能与原版 Inkling 高度接近。作者 @mervenoyann 强调，该模型在编码能力上甚至超越了参数量更大的 Inkling 版本。作者 @simonguozirui 补充称其在智能体任务和推理方面表现突出，超越了同级别的其他模型。Artificial Analysis 的智能指数显示，Inkling Small 以不到旗舰模型三分之一的激活参数跑平了旗舰大模型。
为什么重要
- 降低硬件门槛：超大规模模型通常需要庞大的算力集群，而 Inkling-Small 通过极低的激活参数量与量化技术，让 276B 规模的模型能在消费级或准专业级硬件（如 Mac Studio、单张 B300）上流畅运行，对开源社区和本地开发者的实际应用意义重大。
- 开源生态建设：模型采用 Apache 2.0 许可，由前 OpenAI CTO Mira Murati 创立的 Thinking Machines 发布，得益于成熟管线的复用，进一步推动了开源大模型生态的繁荣与发展。
2026-07-31 ~ 2026-07-31 · 22 条相关
一手来源
- thinkingmachines 发布 Inkling-Small：276B参数百万上下文 — rerri ·
- Inkling Small 发布：276B参数模型可在单台Mac Studio上运行 — pcuenq ·
- 276B参数MoE模型可跑单卡，vLLM作者赞Inkling-Small — woosuk_k ·
- MoE模型Inkling-Small发布：276B参数性能不减 — ziqiao_ma · 2026-07-31
- Thinking Machines发布Inkling-Small:276B参数性能媲美原版 — simonguozirui · 2026-07-31
- Thinking Machines 发布 Inkling-Small 模型 — NielsRogge · 2026-07-31
- 【源头】Inkling Small 发布：276B参数模型可在单台Mac Studio上运行 — pcuenq · 2026-07-31
- 【源头】thinkingmachines 发布 Inkling-Small：276B参数百万上下文 — rerri · 2026-07-31
- Thinking Machines发布Inkling-Small：12B激活参数碾压大版本编码能力 — mervenoyann · 2026-07-31
- Mira Murati 创办的 Thinking Machines 发布新款开源模型 Inkling Small — ArtificialAnlys · 2026-07-31
- Thinking Machines 发布 Inkling Small：仅 12B 激活参数跑平旗舰大模型 — ArtificialAnlys · 2026-07-31
- Inkling-Small发布：以1/4参数量媲美原版性能 — arshdeep · 2026-07-31
- 【源头】276B参数MoE模型可跑单卡，vLLM作者赞Inkling-Small — woosuk_k · 2026-07-31
- 276B大模型端侧部署：单台Mac Studio跑通nvfp4量化 — pcuenq · 2026-07-31
- Inkling-Small 模型发布：276B 参数 MoE 架构 — simonguozirui · 2026-07-31
- Thinky Machines 发布 Inkling-Small 模型 — simonguozirui · 2026-07-31
- Inkling-Small 模型发布:1/4 体量击败大版本 — simonguozirui · 2026-07-31
- Thinking Machines 发布 276B 开源模型 Inkling-Small — danielhanchen · 2026-07-31
- Thinking Machines 发布 276B 模型 Inkling-Small，实现极速语音交互 — MaziyarPanahi · 2026-07-31
- Inkling-Small 模型发布：蒸馏与强化学习实现四分之一体积 — simonguozirui · 2026-07-31
另有 5 条近重复转述:simonguozirui · simonguozirui · ArtificialAnlys · simonguozirui · baseten