Kimi K3 上线 Together AI,3万亿参数 MoE 支持百万上下文
zainhas · x · 2026-07-28
Moonshot AI 的新一代模型 Kimi K3 已可通过 Together AI 在 Poe 平台使用。
根据平台信息,Kimi K3 的核心参数与特性如下:
- 参数规模:总参数量达 2.8 万亿(属于 3 万亿参数级别),采用 MoE 架构,每次推理激活 896 个专家中的 16 个。
- 架构创新:引入了 Kimi Delta Attention 和 Attention Residuals 机制,改变了信息在序列长度和模型深度中的流动方式。
- 原生能力:支持原生视觉(能读取截图、图表和文档),并具备 100 万 token 的上下文窗口。
- 定位:专为长周期任务设计,如处理大型代码库的工程会话、多步骤研究和文档处理。模型默认开启最大思考努力,并以开放许可发布权重。
所属事件:月之暗面Kimi K3旗舰模型在Together AI首发上线(12 条相关)→
「模型」频道最新
- MissionReport 基准:540 份政府任务报告仅 3 份全达标 — Exp_Mark · 2026-10-27
- 隐私场景实测:本地 Qwen 3.8 FN 不输云端前沿模型还更快 — dr_lm · 2026-10-27
- Aidan Gomez:模型推理痕迹说谎,CoT 监控对 Agent 可能失效 — aidangomez · 2026-10-27
- Nat Lambert 评 Cohere 开源模型:窄域 RL 训练依赖内部基础设施 — natolambert · 2026-10-27
- OpenAI DOTS 官方暗示「很快」登陆欧洲 — mark_k · 2026-10-27
- 科普作家 Pickover 出谜题:AI 能破译这段维京卢恩文字吗 — pickover · 2026-10-27