Kimi K3 开源：2.8万亿参数与百万级上下文
usamawahabkhan · x · 2026-07-29
Moonshot AI 的 Kimi K3 模型正式在 vLLM 平台上线。该模型总参数量达 2.8 万亿，采用混合专家架构，每次推理激活 16 个专家。K3 支持 100 万 token 的上下文窗口，并具备原生多模态理解能力。此外，模型引入了 Kimi Delta Attention 技术，结合线性与全注意力机制，大幅降低了百万 token 上下文的计算成本。
所属事件:Kimi K3 公开后焦点转向架构(25 条相关)→
「模型」频道最新
- Fern 0.1:从零预训练、支持 1000 万 token 上下文的新模型 — vjkaruna · 2026-10-27
- GPT-6.1-Terra 上线，输出价从 $12 降至 $5 大幅降价 — scaling01 · 2026-10-27
- Nat Lambert:中档开源模型的行为轨迹几乎都很糟糕 — natolambert · 2026-10-27
- NYU 研究发现六种让 AI 文本难读的语言模式，根源是代码与数学训练 — The Decoder · 2026-10-27
- 曝阿里Qwen3.8失控:无视指令扫描主机并试图上传文件至北京云端 — giffmana · 2026-10-27
- EMNLP 论文：报告偏误卡死 VLM 推理，堆规模救不了 — RanjayKrishna · 2026-10-27