Baseten拆解：如何在Blackwell上规模化部署Kimi K3
thursdai_pod · x · 2026-08-09
Baseten 的 Philip Kiely 深入解析了如何基于 Blackwell GB300 架构，规模化地提供 2.8 万亿参数（2.8T）模型（如 Kimi K3）的推理服务。
为了实现这一极具挑战性的部署，团队对底层推理框架进行了深度优化，并将相关改进代码贡献回了开源社区，进一步提升了 vLLM 和 SGLang 在超大参数模型上的服务能力。
「编程与Agent」频道最新
- BuilderIO 开源 agent-native 框架，GitHub 已揽 7.4k star — aigclink · 2026-10-16
- Agent-Native 理念：让人和 Agent 共用同一套应用能力层 — aigclink · 2026-10-16
- 用 ChatGPT 会话经 Desktop Commander MCP 启动 Claude Code CLI — MidahBootyQuay · 2026-10-16
- 单操作员指挥多智能体能做的事已超乎想象 — natesiggard · 2026-10-16
- Claude Code 会话该跑多久？3 小时后上下文成灾的真实教训 — Additional-Buy-2562 · 2026-10-16
- Claude Code 隐藏行为：团队成员 agent 的回复不会送达 lead — Sauers_ · 2026-10-16