Mira Murati新创企发布开源模型Inkling-Small

由前 OpenAI CTO Mira Murati 创立的 Thinking Machines 正式发布了第二款开源模型 Inkling-Small。该模型采用 MoE 架构，总参数量 276B，激活参数仅 12B，以四分之一的体积实现了与原版 Inkling 相当的性能，并在 ARC-AGI 基准测试中成为得分最高的开源权重模型。该模型支持 100 万 token 上下文，具备原生多模态能力，且大幅降低了部署门槛，引发社区高度关注。

已确认

• 模型架构与规格：Inkling-Small 采用混合专家（MoE）架构，总参数量 276B，每个 token 激活参数为 12B。模型支持 100 万 token 上下文窗口，具备可变思考强度，并支持图像、音频到文本的原生多模态输入。
• 开源与性能表现：模型基于 Apache 2.0 协议全面开放权重。在性能方面，@ArtificialAnlys 指出其以仅三分之一的激活参数比肩旗舰模型；@simonguozirui 转述称其在智能体任务和推理方面超越了同级别模型及更大版本；@keirp1 透露该模型在 ARC Prize 官方验证中，成为 ARC-AGI-1 和 ARC-AGI-2 基准中得分最高的开源权重模型，单次推理成本为 0.23 美元。
• 部署与量化支持：官方与社区提供了丰富的部署方案。@pcuenq 确认其 nvfp4 检查点可在单台 Mac Studio（MLX）上运行（占用约 150GB），甚至能跨两台 128GB 笔记本运行。@woosukk 强调该模型体积小到足以在单张 NVIDIA B300 加速卡上运行。此外，Unsloth 团队提供了动态量化方案，Baseten 平台也已同步上线该模型。

为什么重要

• 高性价比与低门槛：Inkling-Small 展现了极高的参数效率，用极少量的活跃参数实现了顶尖的性能，打破了大规模模型必须依赖庞大算力集群的固有印象。这使得开发者能在消费级或轻量级企业级硬件上本地运行百亿级参数模型，极大降低了前沿 AI 模型的试用与部署门槛。

2026-07-30 ~ 2026-07-31 · 29 条相关

事件全程(共 2 集)→

• 第 1 集:开权重模型Inkling登顶ARC-AGI榜单(2026-07-17,2 条)
• 第 2 集:Mira Murati新创企发布开源模型Inkling-Small(2026-07-30,29 条)

• Unsloth 发布 Inkling-Small 多模态 MoE 模型 — unsloth · 2026-07-30
• MoE模型Inkling-Small发布：276B参数性能不减 — ziqiao_ma · 2026-07-31
• Thinking Machines发布Inkling-Small:276B参数性能媲美原版 — simonguozirui · 2026-07-31
• Thinking Machines 发布 Inkling-Small 模型 — NielsRogge · 2026-07-31
• 【源头】Inkling Small 发布：276B参数模型可在单台Mac Studio上运行 — pcuenq · 2026-07-31
• thinkingmachines 发布 Inkling-Small：276B参数百万上下文 — rerri · 2026-07-31
• Thinking Machines发布Inkling-Small：12B激活参数碾压大版本编码能力 — mervenoyann · 2026-07-31
• Mira Murati 创办的 Thinking Machines 发布新款开源模型 Inkling Small — ArtificialAnlys · 2026-07-31
• Thinking Machines 发布 Inkling Small：仅 12B 激活参数跑平旗舰大模型 — ArtificialAnlys · 2026-07-31
• Inkling-Small发布：以1/4参数量媲美原版性能 — arshdeep · 2026-07-31
• 276B参数MoE模型可跑单卡，vLLM作者赞Inkling-Small — woosuk_k · 2026-07-31
• 276B大模型端侧部署：单台Mac Studio跑通nvfp4量化 — pcuenq · 2026-07-31
• Inkling-Small 模型发布：276B 参数 MoE 架构 — simonguozirui · 2026-07-31
• Thinky Machines 发布 Inkling-Small 模型 — simonguozirui · 2026-07-31
• Inkling-Small 模型发布:1/4 体量击败大版本 — simonguozirui · 2026-07-31
• Thinking Machines 发布 276B 开源模型 Inkling-Small — danielhanchen · 2026-07-31
• Thinking Machines 发布 276B 模型 Inkling-Small，实现极速语音交互 — MaziyarPanahi · 2026-07-31
• Inkling-Small 模型发布：蒸馏与强化学习实现四分之一体积 — simonguozirui · 2026-07-31
• Inkling-Small 模型发布：12B 活跃参数实现媲美大模型性能 — clarejtbirch · 2026-07-31
• 【源头】多模态模型 Inkling-Small 登上 Hugging Face 热门 — thinkingmachines · 2026-07-31
• 【源头】Inkling Small登顶ARC-AGI开源榜首，单次推理仅花0.23美元 — keirp1 · 2026-07-31
• Thinking Machines 发布 Inkling-Small：276B 参数 MoE 模型开源 — LiTianleli · 2026-07-31
• 仅 120 亿参数，Inkling-Small 跻身开源模型前列 — simonguozirui · 2026-07-31
• Mira Murati 创业公司发布 Inkling-Small 开源模型 — simonguozirui · 2026-07-31

另有 5 条近重复转述:simonguozirui · simonguozirui · ArtificialAnlys · simonguozirui · baseten