Together AI 上线 Kimi K3 推理服务,多项基准测试领先
togethercompute · x · 2026-08-06
Together AI 宣布上线 Moonshot AI 的 Kimi K3 模型 API。Kimi K3 是首个 3 万亿参数级别的开源模型,总参数量达 2.8 万亿,采用稀疏 MoE 架构,每次推理激活 160 亿参数,支持原生视觉和 100 万 token 上下文窗口。
根据 Moonshot 的基准测试,Together AI 在 4 项主要基准测试中的 3 项(OCRBench、MMMU Pro Vision 和 DeepSWE)取得第一或并列第一。Together AI 强调,随着 Kimi K3 等开源模型达到前沿水平,提供高质量的推理服务变得至关重要。
「Infra」频道最新
- RTX 5090 本地大模型量化与 8GB 显存智能体性能基准测试 — max_paperclips · 2026-08-06
- 英伟达探讨基于专有数据构建安全的企业级 AI — nvidia · 2026-08-06
- 无需 GPU 也能跑:Chorus 开源预训练模型库支持 CPU 快速推理 — jmschreiber91 · 2026-08-06
- 单台 Spark 硬件跑 DeepSeek V4,本地推理速度达 95 tok/s — Rasmic · 2026-08-06
- 本地部署进阶:一台机器混用N卡和A卡跑不同大模型 — Curious-Pen5547 · 2026-08-06
- Luminal 编译器探索极速 Megakernels,突破带宽与算力极限 — AccBalanced · 2026-08-06