Inkling-Small发布：276B参数12B激活，开源登顶ARC

Thinking Machines Lab于7月31日发布第二款开源模型Inkling-Small，采用MoE架构，总参数量276B、激活参数仅12B，支持100万token上下文及图像、音频输入，权重以Apache 2.0协议全面开放。社区评测显示，其以极小激活参数比肩甚至超越原版Inkling，在编码、智能体任务和推理上表现突出，并在ARC-AGI-1和ARC-AGI-2基准中成为得分最高的开源权重模型，单次推理成本仅0.23美元。部署门槛极低，引发社区广泛关注。

已确认

• 模型架构与规格：MoE架构，总参数量276B，激活参数12B，支持100万token上下文，具备可变思考强度，原生多模态（支持图像、音频输入以及对话式交互）。模型基于Nvidia GB300 NVL72系统训练。
• 开源与性能表现：模型权重基于Apache 2.0协议全面开放。@ArtificialAnlys指出其以仅三分之一的激活参数比肩旗舰模型；@simonguozirui转述称其在智能体任务和推理方面超越了同级别模型及参数量更大的原版Inkling；@mervenoyann也证实其编码能力超越了更大版本；@rohanpaulai补充称该模型在HLE测试中得分31.6%，反超原版Inkling的29.7%；@keirp1透露该模型在ARC Prize官方验证中，成为ARC-AGI-1和ARC-AGI-2基准中得分最高的开源权重模型，单次推理成本为0.23美元。
• 部署与量化支持：@pcuenq确认其nvfp4检查点可在单台Mac Studio（MLX）上运行（占用约150GB），甚至能跨两台128GB笔记本运行。@woosukk强调该模型体积小到足以在单张NVIDIA B300加速卡上运行。此外，@danielhanchen表示Unsloth团队提供了动态量化方案，@baseten确认平台已同步上线该模型。

为什么重要

• 高性价比与低门槛：Inkling-Small展现了极高的参数效率，用极少量的活跃参数实现了顶尖的性能，打破了大规模模型必须依赖庞大算力集群的固有印象。这使得开发者能在本地硬件运行百亿级参数模型，极大降低了前沿AI模型的试用与部署成本。

2026-07-30 ~ 2026-08-01 · 48 条相关

事件全程(共 2 集)→

• 第 1 集:Inkling-Small发布：276B参数12B激活，开源登顶ARC(2026-07-30,48 条)
• 第 2 集:Inkling-Small 登顶 ARC-AGI 开源榜单并创成本新低(2026-07-31,4 条)

• Unsloth 发布 Inkling-Small 多模态 MoE 模型 — unsloth · 2026-07-30
• MoE模型Inkling-Small发布：276B参数性能不减 — ziqiao_ma · 2026-07-31
• Thinking Machines发布Inkling-Small:276B参数性能媲美原版 — simonguozirui · 2026-07-31
• Thinking Machines 发布 Inkling-Small 模型 — NielsRogge · 2026-07-31
• Inkling Small 发布：276B参数模型可在单台Mac Studio上运行 — pcuenq · 2026-07-31
• 【源头】thinkingmachines 发布 Inkling-Small：276B参数百万上下文 — rerri · 2026-07-31
• Thinking Machines发布Inkling-Small：12B激活参数碾压大版本编码能力 — mervenoyann · 2026-07-31
• Mira Murati 创办的 Thinking Machines 发布新款开源模型 Inkling Small — ArtificialAnlys · 2026-07-31
• Thinking Machines 发布 Inkling Small：仅 12B 激活参数跑平旗舰大模型 — ArtificialAnlys · 2026-07-31
• Inkling-Small发布：以1/4参数量媲美原版性能 — arshdeep · 2026-07-31
• 276B参数MoE模型可跑单卡，vLLM作者赞Inkling-Small — woosuk_k · 2026-07-31
• 276B大模型端侧部署：单台Mac Studio跑通nvfp4量化 — pcuenq · 2026-07-31
• Inkling-Small 模型发布：276B 参数 MoE 架构 — simonguozirui · 2026-07-31
• Thinky Machines 发布 Inkling-Small 模型 — simonguozirui · 2026-07-31
• Inkling-Small 模型发布:1/4 体量击败大版本 — simonguozirui · 2026-07-31
• Thinking Machines 发布 276B 开源模型 Inkling-Small — danielhanchen · 2026-07-31
• Thinking Machines 发布 276B 模型 Inkling-Small，实现极速语音交互 — MaziyarPanahi · 2026-07-31
• Inkling-Small 模型发布：蒸馏与强化学习实现四分之一体积 — simonguozirui · 2026-07-31
• Inkling-Small 模型发布：12B 活跃参数实现媲美大模型性能 — clarejtbirch · 2026-07-31
• 【源头】多模态模型 Inkling-Small 登上 Hugging Face 热门 — thinkingmachines · 2026-07-31
• Inkling Small登顶ARC-AGI开源榜首，单次推理仅花0.23美元 — keirp1 · 2026-07-31
• Thinking Machines 发布 Inkling-Small：276B 参数 MoE 模型开源 — LiTianleli · 2026-07-31
• 仅 120 亿参数，Inkling-Small 跻身开源模型前列 — simonguozirui · 2026-07-31
• Mira Murati 创业公司发布 Inkling-Small 开源模型 — simonguozirui · 2026-07-31
• LMSYS发布Inkling-small：12B激活参数降低多模态RL门槛 — simonguozirui · 2026-07-31
• Thinkymachines发布Inkling-Small：276B参数开源多模态模型，推理速度140 tps — _akhaliq · 2026-07-31
• Thinking Machines发布276B参数MoE模型Inkling-Small — clarejtbirch · 2026-07-31
• Thinking Machines发布Inkling-Small，12B激活击败万亿模型 — 新智元 · 2026-07-31
• Inkling-Small 模型发布:276B参数仅12B活跃,成本降五分之一 — togethercompute · 2026-07-31
• Inkling-Small上线Together AI,主打低成本多模态智能体编程 — togethercompute · 2026-07-31
• ThinkingMachines 蒸馏小模型反超大杯，编程推理能力逆袭 — 量子位 · 2026-07-31
• Thinking Machines 发布开源权重 Inkling-Small：12B 激活参数，HLE 反超大哥 — rohanpaul_ai · 2026-07-31
• Thinking Machines 发布 276B 模型 Inkling-Small，以 12B 激活参数媲美大模型 — arena · 2026-08-01
• Thinking Machines 发布 Inkling Small，小尺寸跑分反超大杯 — soumitrashukla9 · 2026-08-01
• Inkling-Small 上线：276B 参数 MoE，支持百万 Token — togethercompute · 2026-08-01
• Thinking Machines发布Inkling Small：体积缩至1/4，性能反超前代 — ziqiao_ma · 2026-08-01

另有 12 条近重复转述:simonguozirui · simonguozirui · ArtificialAnlys · simonguozirui · baseten · LiTianleli · clarejtbirch · gaganghotra_ · simonguozirui · zdhnarsil · arena · simonguozirui