Inkling 2 Small 仅用 V4.1F 四成预训练算力，代码压缩率反超全系

teortaxesTex · x · 2026-11-06

流传的训练成本对比图显示，Inkling 2 Small 以约 1.3×10²⁴ FLOPs 的预训练算力（仅为 DeepSeek V4.1 Flash 的约 40%）、17B 激活 × 12.6T tokens，在 Internal Code 的 bits-per-byte 指标上做到 0.2030，优于 GLM-5.3（0.2358）、DeepSeek V4 Pro Base（0.2335）与 Kimi K3.1 Pro（0.2068）等对手。

训练分四阶段（H1 8.4T 通用语料 → H2 3.8T 高质量数据 → H3/H4 推理与 agent 轨迹），最后 9 天 RL，总计约 13 天、1.7×10²⁴ FLOPs。发帖人指出：若官方把 RL 也算进「预训练」口径，其相对纯预训练的 DeepSeek 等模型的优势实际被低估；该模型视觉与前沿编码任务都强，且训练便宜，base 训好后 RL 很顺。