Inkling 2 Small 原生 4-bit 训练收益遭质疑
Inkling 2 Small 技术报告显示,该模型是目前已知最大的以原生 4-bit 前向传播完成端到端训练的模型,覆盖预训练到最终 RL 阶段。但 Andrew Carr 引用报告质疑其收益,指出预训练仅提速约 8%;前 Hugging Face 研究员 Nathan Lambert 也提出疑问,认为预训练阶段仅节省约 5 小时,为此付出的工程代价是否值得存疑。
2026-11-14 ~ 2026-11-14 · 2 条相关
- 第 1 集:Thinking Machines 详解 Inkling 2 Small 全程原生 4-bit 训练(2026-11-14,10 条)
- 第 2 集:Inkling 2 Small 原生 4-bit 训练收益遭质疑(2026-11-14,2 条)
- Inkling 2 Small 全程原生 4-bit 训练:预训练仅提速 8% 引质疑 — andrew_n_carr · 2026-11-14
- Nat Lambert 质疑:为预训练提速 5 小时值得这么大工程代价吗? — natolambert · 2026-11-14