开发者盛赞 DeepSeek 工程效率:KV Cache 三年缩小 437 倍

开发者 gnukeith 连发多条帖子指出 DeepSeek 在工程层面被严重低估:DeepSeek V4.1 Flash 跑 1M token 上下文仅需不到 0.9GB 内存,而 Llama 3.3 70B 约需 320GB。他晒出 KV Cache 每 token 字节数演进图,显示三年间缩小 437 倍,从 DeepSeek-V1(2023.11)持续下降,据此断言 AI 会随时间越用越便宜且更强,而非更贵。他还盛赞 DeepSeek 论文的量化技术,可将 7630 亿参数模型压缩到约 305GB 内存上近无损运行,称每次重读都能发现新细节。

2026-10-29 ~ 2026-10-29 · 3 条相关