LMSYS发布Inkling-small:12B激活参数降低多模态RL门槛

simonguozirui · x · 2026-07-31

LMSYS 发布了全新的 MoE 模型 Inkling-small。该模型总参数量为 276B,但激活参数仅为 12B,被业界认为是进行多模态强化学习(RL)的“甜点级”尺寸。

性能与推理:在 SGLang 框架下,该模型在 8x B200 GPU 上可达 648 tok/s。其能力不仅与更大版本相当,在部分基准测试中甚至表现更优。

行业意义:12B 的激活参数量意味着小团队也能真正跑起多模态 RL,而不再仅仅停留在论文阶段。结合 Miles 框架,开发者可以直接将多模态数据转化为模型的真实能力提升,这标志着行业从“收集数据指望大厂训练”向“自主定制模型”的转变。

所属事件:Thinking Machines发布多模态模型Inkling-Small(32 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →