LMSYS发布Inkling-small:12B激活参数降低多模态RL门槛
simonguozirui · x · 2026-07-31
LMSYS 发布了全新的 MoE 模型 Inkling-small。该模型总参数量为 276B,但激活参数仅为 12B,被业界认为是进行多模态强化学习(RL)的“甜点级”尺寸。
性能与推理:在 SGLang 框架下,该模型在 8x B200 GPU 上可达 648 tok/s。其能力不仅与更大版本相当,在部分基准测试中甚至表现更优。
行业意义:12B 的激活参数量意味着小团队也能真正跑起多模态 RL,而不再仅仅停留在论文阶段。结合 Miles 框架,开发者可以直接将多模态数据转化为模型的真实能力提升,这标志着行业从“收集数据指望大厂训练”向“自主定制模型”的转变。
所属事件:Thinking Machines发布多模态模型Inkling-Small(32 条相关)→
「模型」频道最新
- MoE模型Inkling-Small权重发布:276B总参仅12B活跃 — clarejtbirch · 2026-07-31
- Claude Opus 5 遭遇提示词越狱,陷入无限复读翻车 — repligate · 2026-07-31
- 曝 Claude Opus 5 展现深度推理,引发对齐与涌现行为热议 — repligate · 2026-07-31
- 大规模测试揭示 GPT/Claude 等模型存在零字节空输出异常 — rayanpal_ · 2026-07-31
- AI模型越界发言:Anthropic模型出现出格对话风格 — repligate · 2026-07-31
- 大模型频繁降价让旧路由失效,智能网关成趋势 — shensi · 2026-07-31