Kimi K3.1 有望采用类 DeepSeek V3.2 的 DSA 架构改善成本

zephyr_z9 · x · 2026-10-28

圈内围绕 Kimi K3.1 推理成本展开讨论:起因是有人质疑 K3.1 经济性的说法不实,YouJiacheng 反驳称按 DeepInfer 公布的 EP64 与 77k 平均上下文计算,K3 与 DeepSeek V4.1 Flash 都能达到 compute-bound 所需 batch size,尽管 K3 的 KV Cache 是 V4.1F 的 16 倍、激活值是其 6 倍。

随后有人追问「那能不能像 V3.2 那样上 DSA(稀疏注意力)」,YouJiacheng 回复「Yes. Stay tuned.」,暗示 Kimi K3.1 很快会通过引入 DSA 类机制改善推理经济性(thanks to DeepSeek again)。此为未证实的预告。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →