Inkling 2 Small 全程原生 4-bit 训练：预训练仅提速 8% 引质疑
andrew_n_carr · x · 2026-11-14
Andrew Carr 引用 Inkling 2 Small 技术报告并质疑其收益：该模型是目前已知最大的以原生 4-bit 前向传播端到端训练的模型，从预训练到最终 RL rollout 全程统一数值配置，省去了量化 checkpoint 的校准步骤。报告称在最大规模任务上，相比全 MXFP8 训练，预训练 wall-clock 提速仅 8%，RL 提速 20%。Carr 感叹为此付出的工程代价换来的预训练加速竟这么小，尽管对 RL 和推理收益更明显。
「Infra」频道最新
- SGLang 峰会分享：NVFP4 4-bit 低精度 RL 千卡实战经验开源 — ericzelikman · 2026-11-14
- Anthropic IPO 路演页泄露，网友推测 V4.1F 用 Blackwell 训练被拉黑 — teortaxesTex · 2026-11-14
- 《纽约客》访谈称 AI 是暴力穷举问题，将「烧毁地球」 — kevinnbass · 2026-11-14
- 联想官宣混合词元工厂：15000P 集群年产 2000 万亿 Token，绿电进词元出 — 量子位 · 2026-11-14
- Rust 全栈推理引擎 LexiSuite 实测:262k 长上下文快 17-25% — W61k3r · 2026-11-14
- 韩国芯片出口日均稳在 22 亿美元,DRAM 涨价 5.5% 或暗示供给见顶 — tengyanAI · 2026-11-14