前沿模型训练成本已很高
willccbb · x · 2026-07-17
前沿模型的训练门槛正在被成本抬高。作者估算,在 GB300 上训练一个 5T-A100B、50T tokens 规模的模型,单次“hero run”就要约 1000 万美元;如果再做 RL,成本还要再翻倍。 结论是:真正能负担这种训练预算的公司非常少,全球大概只有几千家企业有资格认真考虑。
willccbb · x · 2026-07-17
前沿模型的训练门槛正在被成本抬高。作者估算,在 GB300 上训练一个 5T-A100B、50T tokens 规模的模型,单次“hero run”就要约 1000 万美元;如果再做 RL,成本还要再翻倍。 结论是:真正能负担这种训练预算的公司非常少,全球大概只有几千家企业有资格认真考虑。