E2B 自研沙盒集群 autoscaler:Jev 算法替代 Karpenter 贪心策略
mgill25 · x · 2026-09-28
E2B 工程师 diptanu 介绍团队为应对沙盒需求暴涨而自研的有状态沙盒集群 autoscaler。集群利用率长期在 90–95%,内存快照机器 RAM 卖到八成会恶化 p95 恢复延迟,团队靠按需云容量缓解压力,同时为稳态需求采购长期算力合同。
技术要点:
- 核心决策用 Datadog 团队开源的 Rust 库 Reflex,而非 Karpenter 类传统 autoscaler 的贪心启发式算法;基于需求、成本和沙盒快照所在位置,决定在 AWS(metal 23xl/48xl)还是 GCP(Z3/C4 metal)拉起哪种机器。
- 结合当前集群状态与沙盒调度器的阻塞任务状态来决定伸缩动作,且只在预设参数(如最大机队规模)内提交决策。
- 需求稳定后自动 cordon 节点、必要时迁移沙盒,再缩回按需集群,逐步换回预留容量。
「编程与Agent」频道最新
- Karpathy：Prompting 将消亡，留下 graph 就够了 — goyalshaliniuk · 2026-09-28
- 把 Mac 壁纸变成城市:agent 一跑起来就"活"了 — nptacek · 2026-09-28
- vibe coding 玩出新花样:用代码生成激光追踪视觉 — natesiggard · 2026-09-28
- 282 个 Claude Opus 5.5 病毒视频开源合集,每条附完整 prompt — dotey · 2026-09-28
- 开发者用 Grok 搭「找钱机器人」：自动扫描你够格申领的补贴并填好材料 — elonmusk · 2026-09-28
- 开源记忆系统 Supermemory NPM 周安装量突破 10 万次 — julianweisser · 2026-09-28