2.8T模型的算力门槛
basedjensen · x · 2026-07-17
这条转发在强调：**超大模型的“可用性”首先受算力和显存限制**。 - 以 2.8T 参数模型为例，若按 FP16 直接装入显存，理论上需要约 **5.6TB VRAM**，大致相当于 **44 台 Mac Studio** 或 **15 张 Blackwell** 的量级。 - 原文补充说，这类模型实际上是用 **FP4** 训练和服务的；上传到 Hugging Face 后，体积也仍会达到 **1.4TB**。 - 结论是：即便模型能力很强，**只有少数组织能本地托管**，算力仍是个人与机构之间的“软门槛”。