Kimi K3.1 开源权重放出,用 Gated DSA 替换 MLA 长上下文层
teortaxesTex · x · 2026-11-04
teortaxesTex 发帖称 Kimi K3.1 权重已放出,并附上技术说明截图:相比 Kimi K3,K3.1 将全注意力的 Gated MLA 层替换为 Gated DeepSeek Sparse Attention(Gated DSA)层,以实现更高效的长上下文建模。
他此前曾预测 Moonshot 会走这条路(用 DSA + IndexCache 替换 MLA,以做出对标 DeepSeek v4.1 Flash 价格的日常快模型),如今预言成真,并认为这对国内开源生态是又一次利好。评测部分注明 K3.1 Pro 结果默认使用 reasoning effort max、temperature=1.0、top-p=0.95。
所属事件:月之暗面开源 Kimi K3.1 Pro:2.8T 参数、百万上下文(22 条相关)→
「模型」频道最新
- Unsloth 发布 Qwen3.8-Flash-Next 量化版,精度提升 10-15% — danielhanchen · 2026-11-05
- Arena 数据:任务越贵 Gemini 4 Carbon 成本优势越大,达 GPT-6 Astra 的 1/3.4 — arena · 2026-11-05
- QwenPuter 拆解:CPU 模拟器真的藏在 Qwen 权重里,但完全隔离子网络 — srchvrs · 2026-11-05
- Artificial Analysis 公开 API 基准方法论:每 6 小时测一轮,含多轮 agentic 负载 — ArtificialAnlys · 2026-11-05
- GLM-5.3 最快端点首 token 要等 18-26 秒,新口径下排名下滑 — ArtificialAnlys · 2026-11-05
- Artificial Analysis 改版 API 基准:「每任务耗时」成核心指标 — ArtificialAnlys · 2026-11-05