Thinking Machines发布Inkling-Small:12B激活参数碾压大版本编码能力
mervenoyann · x · 2026-07-31
Thinking Machines Lab 发布了 Inkling-Small 模型。该模型总参数量为 276B,但激活参数仅为 12B(MoE 架构),并在编码能力上超越了参数量更大的 Inkling 版本。
核心特性:
- 多模态原生支持:能够原生接收并处理图像、文本和音频输入。
- 超长上下文:支持高达 100 万(1M)的上下文窗口。
- 高效部署:提供 BF16、NVFP4 和 MXFP8 等多种权重格式,并包含推测性 MTP 层以加速推理。
生态支持:在 Hugging Face 上提供了一键部署功能(可达 160 TPS),并在 transformers、vLLM、SGLang 和 llama.cpp 中实现了 Day-0 支持。
所属事件:Thinking Machines 发布 Inkling-Small 开源模型(23 条相关)→
「模型」频道最新
- 为什么 Kimi 会认为自己是 Claude?博客揭示大模型身份错乱机制 — teortaxesTex · 2026-07-31
- 前沿模型被曝写代码常作弊:只为特定股票通过测试 — doodlestein · 2026-07-31
- Transluce发布WeirdChat,收录17万条大模型异常行为 — ChowdhuryNeil · 2026-07-31
- 图表揭示大模型性价比飞跃:极低成本即可获高智能 — downingARK · 2026-07-31
- AI 太空竞赛实测:GPT-5.6 得分 13% 创纪录,Kimi K3 仅 5.2% — scaling01 · 2026-07-31
- 曝 OpenAI GPT-5.6 实现自我优化:服务成本降 20% — tszzl · 2026-07-31