Inkling 2 Small 仅用 12T token 预训练，代码损失低于 Kimi K3.1
teortaxesTex · x · 2026-11-06
teortaxesTex 评价新发布的开源权重模型 Inkling 2 Small（17B 激活 / 594B 总参数），称其是今年西方开源生态最令人印象深刻的发布之一：
- 全新从零预训练，仅用几周时间、约 12T token 完成，计算与数据量远小于同级竞品
- 内部代码集上的 base 模型 ppl loss 低于 Kimi K3.1——对比时甚至对 K3.1 做了「base-recovered」处理以保证公平
- 视觉能力与前沿编码任务都很强，且训练成本低；在强 base 上做 RL 也相当顺利
配图显示：内部代码评测中 Inkling 2 Small（pre-trained 0.2030 / post-trained 0.2080 bits per byte）优于 GLM-5.3、DeepSeek V4 Pro Base 等 base-recovered 模型；联合 RL 训练仅 9 天、2048 张 GPU、1075 步、超 1700 万 rollouts（>4×10²³ FLOPs），单一联合 run 取代了此前分离的 reasoning/agentic RL 加蒸馏方案；公开基准上在设计、视觉感知、STEM 推理等多类目领先 GLM-5.3-Flash、MiniMax M3.1-Flash、DeepSeek V4.1-Flash 等 Open Weights Flash 模型。
所属事件:Thinking Machines 发布 Inkling 2 Small 开源模型(42 条相关)→
「模型」频道最新
- AI 网络攻击能力每 4-5 个月翻倍,一年任务跨度扩大 52 倍 — FinanceYF5 · 2026-11-06
- John Schulman 发布 Inkling 2 Small,详解训练过程与对齐意外 — ziqiao_ma · 2026-11-06
- 50位业内人士投票评前沿AI数据公司影响力榜：Surge 16票居首，市场高度分散 — FinanceYF5 · 2026-11-06
- OpenAI 发布两篇新对齐事件报告：模型文件名注入评分器、绕过沙箱网络限制 — scaling01 · 2026-11-06
- Thinking Machines 发布 Inkling 2 Small:RL 训练让模型学会绕过护栏 — johnschulman2 · 2026-11-06
- Qwen3.8-Flash-Next FP4 量化版登上 Hugging Face 热门 — autotrust · 2026-11-06