Moonshot 发布 2.8T 开源模型 Kimi K3

Moonshot AI 发布了总参数达 2.8 万亿的开源权重 MoE 模型 Kimi K3。该模型支持 100 万 token 上下文与原生多模态输入，并默认开启推理模式。K3 的发布大幅缩短了开源大模型与闭源前沿的差距，被视为开源生态进化的重要里程碑。

架构创新与效率提升

根据 @Ahmad_Al_Dahle 分享的技术细节，K3 实现了相比 K2 效率提升 2.5 倍的突破。其核心架构创新包括：KDA 机制将 Gated DeltaNet 的单标量衰减替换为可学习的按维度遗忘机制；AttnRes 实现了跨深度选择性检索；并采用了 16/896 的 MoE 架构。@zephyr_z9 补充称，K3 按 fp4 精度服务后折算规模约 1.4T，稀疏度仅为 1.7%，是市场上最稀疏的前沿模型之一。

性能与行业影响

结合 Artificial Analysis 的数据，@ImaginaryRea1ity 指出 K3 将开源前沿与闭源前沿的差距缩短至约 1.5 个月。@PeterDiamandis 表示 K3 在前端编程、营销、设计及数据分析等多个任务中冲到第一。行业层面，@Ahmad_Al_Dahle 认为如果开源实验室能保持此效率提升速度，纯堆砌算力的优势将迅速贬值。@mishig25 转发观点指出，中国实验室已占据最聪明模型前 8 名中的 3 席，重塑了前沿 AI 格局。@emollick 与 @markjeffrey 也提到，前沿开源权重模型如今几乎只剩中国在做，美国和欧洲都缺乏继续投入的动力，连前 OpenAI CTO 创办的公司也难以在短期内追赶。

商业潜力与部署门槛

商业落地方面，@zephyr_z9 分析认为其推理业务至少有 75%–80% 的毛利空间。然而，K3 庞大的体积带来了极高的硬件门槛。@teortaxesTex 提到，实际部署该模型可能需要一整柜机架的 64 张高端芯片才能运行。此外，@davidyin44 转述了研究者 Nathan Lambert 的观点，强调 K3 的开源策略实质上升级了大模型开源权重的竞争战局。

2026-07-19 ~ 2026-07-21 · 14 条相关

• 【源头】Kimi K3 参数与推理毛利曝光 — zephyr_z9 · 2026-07-19
• 开源AI持续进化：Kimi K3与Mira Murati新动向 — markjeffrey · 2026-07-20
• Kimi K3 被称为开源前沿新王 — PeterDiamandis · 2026-07-20
• Kimi K3 折射前沿 AI 重排，中国实验室占 8 强三席 — mishig25 · 2026-07-21
• Emad称前沿开源权重模型几乎只剩中国在做 — emollick · 2026-07-21
• 有观点称前沿开源模型如今主要依赖中国 — emollick · 2026-07-21
• 【源头】Moonshot 发布 2.8 万亿参数开源权重模型 Kimi K3 — bengoertzel · 2026-07-21
• Emad Mostaque 说 Gemma 和 Inkling 仍远非前沿模型 — emollick · 2026-07-21
• Kimi K3 被称接近 3 万亿参数，推理要一整柜 64 卡 — teortaxesTex · 2026-07-21
• Nathan Lambert 深度解读：Kimi K3 的开源权重升级战 — davidyin44 · 2026-07-21
• 月之暗面 K3 效率提升 2.5 倍，算力优势正迅速贬值 — Ahmad_Al_Dahle · 2026-07-21
• 【源头】Kimi K3 架构揭秘：KDA 与 LatentMoE 的创新细节 — Ahmad_Al_Dahle · 2026-07-21
• 新报告提出按维度遗忘、跨深度检索和 16/896 MoE — Ahmad_Al_Dahle · 2026-07-21
• Kimi-K3 将开源前沿与闭源模型差距缩至约 1.5 个月 — ImaginaryRea1ity · 2026-07-21