性能建模者修正 K3 成本估算:承认精度算错,结论仍为贵 20 倍
z4y5f3 · x · 2026-10-26
z4y5f3 回应 YouJiacheng 的 FP8 KV cache 数据,承认自己此前用了 HF 默认精度(MLA 用 BF16、KDA 用 FP32),导致 KV cache 倍数算成 40 倍。但他指出 FP8 同时跑得更快,不改变计算/带宽的方程,修正后 K3 的服务成本仍是 V4.1F 的约 20 倍而非 6 倍。争论聚焦于倍数,双方均认为 K3 服务成本显著更高。
z4y5f3 · x · 2026-10-26
z4y5f3 回应 YouJiacheng 的 FP8 KV cache 数据,承认自己此前用了 HF 默认精度(MLA 用 BF16、KDA 用 FP32),导致 KV cache 倍数算成 40 倍。但他指出 FP8 同时跑得更快,不改变计算/带宽的方程,修正后 K3 的服务成本仍是 V4.1F 的约 20 倍而非 6 倍。争论聚焦于倍数,双方均认为 K3 服务成本显著更高。