DeepSeek V3 量化版体积仅 162GB,解码速度达 247 tokens/s

teortaxesTex · x · 2026-08-05

开发者分享了 DeepSeek V3(原推误称为 V4 Flash)量化版本的实测数据:解码速度高达 247 tokens/s。

有博主对此感叹,该模型量化后体积仅 162GB,物理尺寸相当于高端 MicroSD 芯片中约 3mm² 的区域,重量近似于大黄蜂的大脑。然而,这微小的体积却足以容纳一个掌握了人类书面文明的高分辨率“心智”。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →