Moonshot 开源 Kimi K3.1 Pro：2.8T 参数 MoE、百万 token 上下文
scaling01 · x · 2026-11-04
月之暗面在 Hugging Face 开源 Kimi K3.1 Pro 权重，是其迄今最强的 3T 级原生多模态 agentic 模型。
关键规格
- MoE 架构：总参数 2.8T，激活参数 104B，896 个专家（每 token 选 16 个）
- 上下文窗口 1,048,576 token；注意力为 KDA + Gated DSA（替换 K3 的 Gated MLA 以提升长上下文效率）
- 视觉编码器 MoonViT-V2（401M）；量化采用 MXFP4 权重 / MXFP8 激活的量化感知训练
训练方式
从 Kimi K3 后训练而来，在数百个下游领域进行大规模联合强化学习。
能力提升：官方称在编码、3D 创作、金融研究、事实准确性和 agentic 能力上有显著进步。
所属事件:月之暗面开源 Kimi K3.1 Pro：2.8T 参数 MoE、百万上下文(18 条相关)→
「模型」频道最新
- 转推：Google 循环 Transformer 或让小模型（10B 以下）很快可用 — rickasaurus · 2026-11-05
- 博主称 GPT-6.2 传闻属实，或就在明天发布 — kimmonismus · 2026-11-05
- The Information：OpenAI GPT-2 最快周五发布，分 Astra、Sol、Cyber 三款 — kimmonismus · 2026-11-05
- Lambert 开源模型经济数据仪表盘上线,数据免费解读付费 — natolambert · 2026-11-05
- 实测称小米 MiMo 是被低估的性价比黑马，基准表现持续对标一线 — VictorSanh · 2026-11-05
- Pangram 发布图像检测模型 Image 1.0:识别 99.2% AI 图,误报仅 0.27% — TuhinChakr · 2026-11-05