Moonshot 开源 Kimi K3，激活参数达 104B、上下文 100 万 token
teortaxesTex · x · 2026-07-27
Moonshot 公布了 Kimi K3 的开源权重与技术报告，核心卖点是：
- 2.8T MoE 架构
- 104B activated parameters
- 原生视觉理解
- 1M token 上下文窗口
配图里的模型摘要还给出了更多结构细节：93 层、896 个 experts、每个 token 选 16 个 experts，注意力层由 69 层 KDA + 24 层 Gated MLA 组成。官方同时表示，这次不只开放模型，还把高性能 attention kernels、MoE 通信库，以及面向 agent 环境的大规模运行基础设施一起开出来。
所属事件:Moonshot 发布 Kimi K3 开放权重引争议(155 条相关)→
「模型」频道最新
- BullshitBench 榜单更新:GPT-6-Astra 领先历代 OpenAI 模型仍未及 Anthropic — scaling01 · 2026-09-11
- Agent Astra 在 GauntletBench 得 83%,成首个超人类基线的电脑操作 Agent — ducha_aiki · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11