E2B 自研沙盒集群 autoscaler:Jev 算法替代 Karpenter 贪心策略
mgill25 · x · 2026-09-28
E2B 工程师 diptanu 介绍团队为应对沙盒需求暴涨而自研的有状态沙盒集群 autoscaler。集群利用率长期在 90–95%,内存快照机器 RAM 卖到八成会恶化 p95 恢复延迟,团队靠按需云容量缓解压力,同时为稳态需求采购长期算力合同。
技术要点:
- 核心决策用 Datadog 团队开源的 Rust 库 Reflex,而非 Karpenter 类传统 autoscaler 的贪心启发式算法;基于需求、成本和沙盒快照所在位置,决定在 AWS(metal 23xl/48xl)还是 GCP(Z3/C4 metal)拉起哪种机器。
- 结合当前集群状态与沙盒调度器的阻塞任务状态来决定伸缩动作,且只在预设参数(如最大机队规模)内提交决策。
- 需求稳定后自动 cordon 节点、必要时迁移沙盒,再缩回按需集群,逐步换回预留容量。
「编程与Agent」频道最新
- Google 开源 PaperOrchestra:多 Agent 自动写 AI 研究论文 — google-research · 2026-11-16
- ffmpeg-skill 爆火:42 个 FFmpeg 工具让编码 Agent 本地剪视频 — kajisho5 · 2026-11-16
- 团队让 Agent 自动回复 Slack,网友直呼「和所有人的幽灵版聊天」 — iamrobotbear · 2026-11-16
- AI 求职面试复盘法:让 Claude 指出你哪段回答最没说服力 — brandon_galang · 2026-11-16
- DeepSeek 开源官方 App 前端 chat-demo,3.9k 星 — NielsRogge · 2026-11-16
- lemire:AI 改变编程的不是速度,而是扩大工程师的「认知半径」 — lemire · 2026-11-16