Thinking Machines 开源 Inkling 2 Small,Apache 2.0 放出权重
Thinking Machines 创始人 Miriam Murati 宣布如约放出 Inkling 2 Small 的模型权重,已在 Hugging Face 上架并采用 Apache 2.0 许可证,允许社区自由微调与商用,官方鼓励「把 Inkling 变成你自己的模型」。这是该团队对小型模型开放权重承诺的兑现,也是头部创业团队以宽松协议开放大参数量模型的最新案例。
已确认
- 模型为 Inkling 2 Small,是第二代 Inkling 系列的首个模型,权重已在 Hugging Face 开放,许可证为 Apache 2.0(@miramurati、@thinkymachines 官宣),支持对话与 8-bit 量化,属 image-text-to-text 管线,采用自定义 chat template,支持可调的 reasoning
- 架构为 MoE,总参数 594B,激活参数 17B,上下文长度 1M(@togethercompute、@ariG23498 引用 HF 官方文章)
- 据 @vllmproject 的技术解读:模型为 48 层、384 专家 top-8 的 MoE,支持文本+图像多模态;vLLM 提供 day-0 支持,单节点可跑出 630 tok/s
- 架构细节引发社区讨论:据 @teortaxesTex 转发,Yang Songlin 指出新一代采用带 q/k/v 拆分的注意力残差、gated attention、dynamic attention sink、dynamic shortcut 等改动;据 @akbirthko 转发,Aleksa Gordić 拆解指出模型采用了 Kimi 的注意力残差(attn residuals)机制
- 据 @simonguozirui 转发的 LettaAI 信息:该模型在 FrontierMemory 基准上拿到 60.0%,为所有美国开源模型中的最高分;转发者 0xSero 称其为「美国唯一的前沿级开源权重模型」
- 据 @LiTianleli 转发的信息,SkyRL 团队宣布对 Inkling 2 Small 的 Day-0 RL 支持,已验证完整的 MXFP8、BF16 全量微调
- Together AI 宣布 Inkling 2 Small 已上线其平台;据 @keirp1 转发的信息,该模型也已上线 Prime Inference 推理平台和 Vercel AI Gateway(模型名 thinkingmachines/inkling-2-small),用户可直接调用
- HF 同步更新了官方模型文章,ariG23498 等 HF 工程师转发官宣;PyTorch 作者 Soumith Chintala 等社区人士亦关注此次发布;据 @ChowdhuryNeil 转发,第三方评测机构 ScaleAI 已关注此次发布
- Murati 在官宣中感谢了团队与安全测试合作伙伴的工作,Andrew Carr 等成员对此表示祝贺
- @ZhongRuiqi 透露权重开放后可本地运行或继续用 Tinker 平台,并邀请社区对模型权重与激活值做 probing,探究其内部机制是否与其他模型「构建方式不同」
为什么重要
- Apache 2.0 是最宽松的开源协议之一,允许商用与自由微调,有助于社区生态发展
- 594B 总参数的多模态 MoE 以开放权重形式发布,属于参数规模较大的开源模型;FrontierMemory 60.0% 的成绩显示其在美国开源模型中的长上下文记忆能力领先;vLLM day-0 支持、SkyRL 的 RL/微调验证,以及 Together AI、Prime Inference、Vercel AI Gateway 的托管,显著降低了部署与研究门槛
- 其借鉴 Kimi 注意力残差等架构设计也引发技术社区对新一代开源模型架构演进方向的讨论
2026-11-13 ~ 2026-11-13 · 26 条相关
- 第 1 集:Thinking Machines 开源 Inkling 2 Small,Apache 2.0 放出权重(2026-11-13,26 条)
- 第 2 集:vLLM 上线 Inkling-2-Small:594B MoE、百万上下文、单卡 1100 tok/s(2026-11-13,2 条)
- 第 3 集:Inkling 2 Small 上架 Ollama:594B MoE、1M 上下文(2026-11-13,2 条)
一手来源
- Thinking Machines 开源 Inkling 2 Small 权重,Apache 2.0 协议上架 HF — miramurati ·
- Thinking Machines 开源 Inkling 2 Small 权重,Apache 2.0 协议 — thinkymachines ·
- Thinking Machines 发 Inkling 2 Small:594B/17B MoE,单节点跑出 630 tok/s — vllm_project ·
- 【源头】Thinking Machines 开源 Inkling 2 Small 权重,Apache 2.0 协议 — thinkymachines · 2026-11-13
- 【源头】Thinking Machines 开源 Inkling 2 Small 权重,Apache 2.0 协议上架 HF — miramurati · 2026-11-13
- Miriam Murati 团队兑现承诺,开放 Inkling 2 Small 模型权重 — andrew_n_carr · 2026-11-13
- Thinking Machines 发布 Inkling 2 Small:594B MoE 多模态模型上线 HF — ariG23498 · 2026-11-13
- Thinking Machines 兑现承诺,开源 Inkling 2 Small 模型权重 — ariG23498 · 2026-11-13
- Thinking Machines 发布 Inkling 2 Small:594B/17B 激活,1M 上下文 — togethercompute · 2026-11-13
- 【源头】Thinking Machines 发 Inkling 2 Small:594B/17B MoE,单节点跑出 630 tok/s — vllm_project · 2026-11-13
- Thinky Machines 开源 Inkling 2 Small 权重,Apache 2.0 协议可自由下载 — keirp1 · 2026-11-13
- Inkling 2 Small 开放权重上架 Hugging Face,Apache 2.0 可自由微调 — keirp1 · 2026-11-13
- Thinking Machines 在 Hugging Face 发布 Inkling-2-Small 模型 — InfinityZeroFive · 2026-11-13
- Thinking Machines 开源 Inkling 2 Small,SkyRL 实现 Day-0 RL 支持 — LiTianleli · 2026-11-13
- Thinking Machines 开源 Inkling 2 small 权重,作者邀社区 probing — ZhongRuiqi · 2026-11-13
- Inkling 2 Small 架构细节曝光:注意力残差加混合精度专家设计 — teortaxesTex · 2026-11-13
- Mira Murati 公司如约开源 Inkling 2 Small 模型权重 — samsja19 · 2026-11-13
- Thinking Machines 开源 Inkling 2 Small 权重,已上线 Prime Inference — keirp1 · 2026-11-13
- Thinking Machines 多模态模型 Inkling 2 Small 上线 Vercel AI Gateway — keirp1 · 2026-11-13
- Thinking Machines 开源 Inkling 2 Small:美国开源模型内存基准登顶 — simonguozirui · 2026-11-13
- Thinking Machines 开源 500B MoE 模型 Inkling 2 Small,vLLM 零日适配 — woosuk_k · 2026-11-13
- Thinking Machines 开源 Inkling-2-Small,登 Hugging Face 热榜 — thinkingmachines · 2026-11-13
- Thinky Machines 开源 Inkling 2 Small,Apache 2.0 权重已上线 — LiTianleli · 2026-11-13
- Inkling 2 Small 采纳 Kimi 注意力残差机制,作者拆解实现细节 — akbirthko · 2026-11-13
- Thinky Machines 发布最新模型 Inkling 2 Small,已上架 Hugging Face — ariG23498 · 2026-11-13
另有 4 条近重复转述:ariG23498 · ChowdhuryNeil · ZhongRuiqi · ariG23498