实测推演:Kimi K3 推理成本比 DeepSeek V4.1 Flash 贵 20-50 倍
z4y5f3 · x · 2026-10-26
一场围绕 Kimi K3 与 DeepSeek V4.1 Flash 服务成本的技术争论:
- z4y5f3 做 128K context 性能建模后指出:V4.1F 的 KV cache 占用比 K3 少约 40 倍(而非传说的 16 倍);在 B200 EP64 decode 下 DeepSeek 能轻松打到 compute bound,而 K3 差一次 OOM 才能跑满算力。结论:K3 服务成本约是 V4.1F 的 40-50 倍,而模型能力只强 5-10%,商业价值主张很难成立。
- YouJiacheng 反驳称这是 fakenews:按 DeepInfer 公布值,77K 平均 context 下 K3 的 KV cache 是 V4.1F 的 16 倍,但两者在 EP64 都能达到 compute bound 所需 batch size;不过他也算出 K3 激活是 V4.1F 的 6 倍,服务同等流量 K3 需要 21600 张 GB200,DeepSeek 只需 2400 张。
- z4y5f3 承认自己此前用错了精度(HF 默认 BF16/FP32),接受 FP8 KV 算法后修正为 K3 仍比 V4.1F 贵约 20 倍,并指出 FP8 不改变计算/带宽的方程。