Moonshot 开源 Kimi K3:2.8T MoE 具备 100 万 token 上下文
HarveenChadha · x · 2026-07-27
Moonshot 正式发布 Kimi K3 的模型权重和技术报告。
- 规模:这是一个 2.8T MoE 模型,支持 原生视觉理解,并拥有 100 万 token 上下文窗口。
- 架构卖点:官方称新架构实现了 单位算力 2.5 倍的智能密度,不只是单纯堆参数。
- 开放内容:除了模型本身,Moonshot 还开源了更多底层组件,包括 高性能 attention kernels、MoE 通信库,以及用于 大规模 agent 环境运行 的基础设施。
- 原帖同时附上了 权重、技术报告和技术博客 链接。
所属事件:Moonshot 发布 Kimi K3 开放权重引争议(155 条相关)→
「Infra」频道最新
- 开源编译器 Latch 从 PyTorch 生成训练 megakernel,H100 上提速 2.75 倍 — sguada · 2026-10-27
- NVIDIA 称 HGX Rubin NVL8 每兆瓦 token 吞吐为 B200 的 10 倍 — thursdai_pod · 2026-10-27
- 要么人力商品化,要么 GPU 商品化:算力经济二选一之辩 — _AustinCalvert_ · 2026-10-27
- DeepSpeed 发布 AutoEP/AutoTP 等并行化进展并办线上答疑 — PyTorch · 2026-10-27
- 9B 本地模型干机械活,规划交给大模型:一套省 token 的编程 agent 分工法 — Electrical_Ninja3805 · 2026-10-27
- Cloudflare Durable Objects 被验证为 AI agent 高并发场景优选架构 — tristanbob · 2026-10-27