讨论 FP4 训练实现上限

teortaxesTex · x · 2026-07-18

这条回复在追问一个更具体的问题：FP4 的实现到底能在训练里推进到什么程度。核心关注点不是模型本身，而是低精度数值格式在训练阶段的可行性与上限。