Moonshot 发布 2.8T 参数 Kimi K3，Modal 提供 460 TPS 推理支持
sarahcat21 · x · 2026-07-30
Moonshot 发布了最新的开源多模态模型 Kimi K3，并在 Modal 平台同步上线。Kimi K3 拥有 2.8 万亿参数，支持 100 万 token 上下文与原生视觉，在公共智能指数中被评为最强的开源模型。
架构与性能
K3 采用混合专家架构，每个 token 激活 16 个专家。引入了 Kimi Delta Attention 和 Attention Residuals 技术，使缩放效率比 K2 提升约 2.5 倍，专为长周期智能体任务设计。
推理优化
Modal 平台不仅提供了 Day 0 的 vLLM 支持，还专门训练了 DFlash 推测器以适配 K3 架构，实现了 460 tokens/s 的生成速度。用户可通过 Shared API 按量付费使用。
所属事件:Moonshot发布2.8T开源Kimi K3，首日推理破423 tok/s(7 条相关)→
「Infra」频道最新
- 中国AI基建热潮推动国产芯片公司利润暴增，MetaX实现盈利 — pstAsiatech · 2026-10-16
- Agent 何时需要 API 网关：Reddit 热议直连与统一接口的分界线 — TurbulentStiffness · 2026-10-16
- 台湾拟在德州投40亿美元建AI制造园区，服务英伟达与台积电 — Polymarket · 2026-10-16
- KV 缓存远程读取竟比重算还慢:GLM-5.3 生产系统案例复盘 — MultiverseComputingCAI · 2026-10-16
- GitHub 用 AI 把 Copilot 运行时重写为 80 万行 Rust,CPU 内存降 90% — bibryam · 2026-10-16
- 继 RTX 5090 之后,NVIDIA 商城又下架入门级 RTX 5050 — chemist_slime · 2026-10-16