Kimi K3.1 有望采用类 DeepSeek V3.2 的 DSA 架构改善成本
zephyr_z9 · x · 2026-10-28
圈内围绕 Kimi K3.1 推理成本展开讨论:起因是有人质疑 K3.1 经济性的说法不实,YouJiacheng 反驳称按 DeepInfer 公布的 EP64 与 77k 平均上下文计算,K3 与 DeepSeek V4.1 Flash 都能达到 compute-bound 所需 batch size,尽管 K3 的 KV Cache 是 V4.1F 的 16 倍、激活值是其 6 倍。
随后有人追问「那能不能像 V3.2 那样上 DSA(稀疏注意力)」,YouJiacheng 回复「Yes. Stay tuned.」,暗示 Kimi K3.1 很快会通过引入 DSA 类机制改善推理经济性(thanks to DeepSeek again)。此为未证实的预告。
「Infra」频道最新
- AI 时代数据中心成安全新前线:网络与物理威胁加速融合 — ChuckDBrooks · 2026-10-28
- 开源工具 preowned 把 macOS 内置模型变成 OpenAI 兼容本地 API — pcuenq · 2026-10-28
- AMD MI355X 上跑出 2100+ tok/s,推理引擎协同设计削平协调税 — JiaZhihao · 2026-10-28
- LFM3-VL-2B 在浏览器内以 WebGPU 实现实时视频字幕 — xenovatech · 2026-10-28
- 硅谷 Agent Infra 一半流量已非人类:Cloudflare 过半、Vercel 六成部署来自 Agent — FinanceYF5 · 2026-10-28
- 开源端侧 TTS 项目 Phonon 下载破 8 万,Rust 运行时不依赖 PyTorch — mattturck · 2026-10-28