月之暗面开源 Kimi K3.1 Pro:2.8T 参数 MoE,百万 token 上下文
Kimi_Moonshot · x · 2026-11-05
月之暗面官方宣布开源 Kimi K3.1 Pro 权重,已上架 Hugging Face。
关键信息:
- 定位为原生多模态 agentic 模型,从 Kimi K3 出发,经数百个下游领域的大规模联合强化学习后训练而来
- 总参数 2.8T(MoE 架构,每 token 激活 104B),93 层,上下文长度 1048576 token
- 注意力机制采用 KDA + Gated DSA(替换 K3 的全注意力 Gated MLA 层,更高效的长上下文建模),量化为 MXFP4 权重/MXFP8 激活且经量化感知训练
- 官方称在编码、3D 创作、金融研究、事实准确性等 agentic 能力上有大幅提升
官方表示将继续推进 open intelligence。
所属事件:月之暗面开源 Kimi K3.1 Pro:2.8T MoE、百万上下文(19 条相关)→
「模型」频道最新
- Together AI 联合月之暗面直播解读 Kimi K3.1 Pro — togethercompute · 2026-11-05
- Together 提出按任务模糊度选模型:写测试用小模型,重构认证上大模型 — togethercompute · 2026-11-05
- Mistral Large 4 1T 上架 HF 推理端点,4×A100 每小时仅 $10 — ngxson · 2026-11-05
- eval 刷不过 Haiku 却被称更强:小模型 1017 被赞有「前沿野心」 — teortaxesTex · 2026-11-05
- vLLM 首日支持 Kimi K3.1:长程编码跑分 61.2%,训练推理栈打通 — vllm_project · 2026-11-05
- 腾讯 Hy4 评测逼近 Claude Opus 5.5 与 GPT 6.1 Sol,部分单项登顶 — heypearlai · 2026-11-05