Moonshot 发布 2.8T 参数 Kimi K3，Modal 提供 460 TPS 推理支持
sarahcat21 · x · 2026-07-30
Moonshot 发布了最新的开源多模态模型 Kimi K3，并在 Modal 平台同步上线。Kimi K3 拥有 2.8 万亿参数，支持 100 万 token 上下文与原生视觉，在公共智能指数中被评为最强的开源模型。
架构与性能
K3 采用混合专家架构，每个 token 激活 16 个专家。引入了 Kimi Delta Attention 和 Attention Residuals 技术，使缩放效率比 K2 提升约 2.5 倍，专为长周期智能体任务设计。
推理优化
Modal 平台不仅提供了 Day 0 的 vLLM 支持，还专门训练了 DFlash 推测器以适配 K3 架构，实现了 460 tokens/s 的生成速度。用户可通过 Shared API 按量付费使用。
所属事件:Moonshot发布2.8T开源模型Kimi K3(2 条相关)→
「Infra」频道最新
- 未来百万亿参数模型训练成本超 2500 亿 — JosephJacks_ · 2026-07-30
- 推理算力成 AI 新前沿，CoreWeave 高管解读扩展法则变迁 — agihouse_org · 2026-07-30
- C++与PyTorch引擎实测：RLHF奖励模型打分提速优化 — Venkata Naga Sai Vishnu Rohit Pulipaka · 2026-07-30
- Meta 预计 2026 年资本支出超 1300 亿美元，盘后股价跌 9% — Polymarket · 2026-07-30
- 第三方团队将 Kimi K3 推理提速至近 80 TPS，超越官方 API — bittingthembits · 2026-07-30
- RTX 6000 跑视频生成耗时 20 分钟，开发者求助本地推理优化 — Cloud9_pilot · 2026-07-30