工程师发布量化入门视频：405B 模型从 810GB 压到 200GB

工程师 arpitbhayani 发布一支量化入门教学视频，围绕四个核心问题展开：量化是什么、为什么推理工程离不开量化、模型权重本质上是什么、量化如何让推理更快更便宜。视频以 Llama 3.1 405B 为例，讲解其 810GB 的权重如何经量化压缩到约 200GB，从而能够装进显存运行，为推理工程学习者提供了系统的基础讲解。

2026-09-08 ~ 2026-09-08 · 2 条相关

• 视频讲解量化基础：405B 模型权重从 810GB 压到约 200GB — arpit_bhayani · 2026-09-08
• 量化基础入门:810GB 的 Llama 3.1 405B 如何跑进显存 — arpit_bhayani · 2026-09-08