Kimi K3登陆DigitalOcean，vLLM助力2.8T大模型高效推理
vllm_project · x · 2026-07-30
Moonshot 旗下的 Kimi K3 模型现已正式上线 DigitalOcean 平台，并由 vLLM 提供高效的推理服务支持。
此次部署提供了完整的 2.8T 参数模型，并支持高达 100 万 token 的上下文窗口。vLLM 负责保障底层的高效运算，而 DigitalOcean 则为开发者提供了熟悉且易于扩展的基础设施环境。
所属事件:vLLM 与 AMD 实现 Kimi K3 首日推理支持(7 条相关)→
「Infra」频道最新
- 未来百万亿参数模型训练成本超 2500 亿 — JosephJacks_ · 2026-07-30
- 推理算力成 AI 新前沿，CoreWeave 高管解读扩展法则变迁 — agihouse_org · 2026-07-30
- C++与PyTorch引擎实测：RLHF奖励模型打分提速优化 — Venkata Naga Sai Vishnu Rohit Pulipaka · 2026-07-30
- Meta 预计 2026 年资本支出超 1300 亿美元，盘后股价跌 9% — Polymarket · 2026-07-30
- 第三方团队将 Kimi K3 推理提速至近 80 TPS，超越官方 API — bittingthembits · 2026-07-30
- RTX 6000 跑视频生成耗时 20 分钟，开发者求助本地推理优化 — Cloud9_pilot · 2026-07-30