Kimi K3.1 Pro 曝光:采用 Gated DeepSeek 稀疏注意力做长上下文
zephyr_z9 · x · 2026-11-04
网友晒出的截图显示 Kimi K3.1 Pro 技术文档细节:相比 Kimi K3,K3.1 Pro 将全注意力的 Gated MLA 层替换为 Gated DeepSeek Sparse Attention(Gated DSA)层,以更高效地进行长上下文建模。
评测部分标注:除特别说明外,所有 K3.1 Pro 结果均使用 reasoning effort max、temperature = 1.0、top-p = 0.95。文中「Whale victory」的说法暗示月之暗面借鉴 DeepSeek 架构取得成功。
所属事件:月之暗面开源 Kimi K3.1 Pro：2.8T 参数 MoE、百万上下文(17 条相关)→
「模型」频道最新
- 博主称 GPT-6.2 传闻属实，或就在明天发布 — kimmonismus · 2026-11-05
- The Information：OpenAI GPT-2 最快周五发布，分 Astra、Sol、Cyber 三款 — kimmonismus · 2026-11-05
- Lambert 开源模型经济数据仪表盘上线,数据免费解读付费 — natolambert · 2026-11-05
- 实测称小米 MiMo 是被低估的性价比黑马，基准表现持续对标一线 — VictorSanh · 2026-11-05
- Pangram 发布图像检测模型 Image 1.0:识别 99.2% AI 图,误报仅 0.27% — TuhinChakr · 2026-11-05
- 腾讯新模型被曝网络安全训练数据有限,引黑客攻击担忧 — pstAsiatech · 2026-11-05