Thinking Machines 开源 Inkling
Latent Space · rss · 2026-07-16
Latent Space 汇总了 Thinking Machines Lab 发布的首个开源权重基础模型家族 **Inkling**。 ### 核心规格 - **Inkling**：MoE Transformer，约 **975B 总参数 / 41B 激活参数** - 支持 **文本、图像、音频**，输出为文本 - 预训练数据约 **45T tokens**，最长可到 **1M context** - 采用 **Apache 2.0** 许可 - 另有更小的 **Inkling-Small**，约 **276B / 12B**，主打更低成本与延迟 ### 训练与架构亮点 - 从零训练，强调可控的思考/推理 effort - 社区从材料里扒出不少架构细节： - 混合/滑窗注意力 - 相对位置编码/相对注意力偏置 - 短卷积层 - MoE + shared experts - load balancing 方案 - 以及用于 speculative decoding 的多头设计 ### 表现与定位 - Artificial Analysis 给它 **41** 的 Intelligence Index，称其为当前领先的美国开源权重模型之一 - 在 agentic / web app arena 等榜单里也取得了不错排名 - 多个评论认为它在 **工具调用、长程纠错、简洁推理** 上表现不错，但在部分多模态和 agentic 基准上仍未必全面领先顶级闭源模型 ### 生态 - 发布当日就获得 vLLM、SGLang、Modal、Baseten、Databricks、Hugging Face 等生态支持 - Tinker 平台与 Playground 也同步可用，支持后续微调与使用