单卡 4090 跑 23 个引擎:Berth v0.6.0 用租约调度 VRAM
Distinct-Pie2389 · reddit · 2026-11-16
开源项目 Berth 发布 v0.6.0,目前约 300 名用户。新版为每张卡片提供原生调度:每个任务卡片可设定时间表,berth train 运行的训练不可被自动化任务中断,还能学习各引擎的资源占用。
作者分享了一个月内在单张 RTX 4090 工作站上的实测数据:同时运行 llama-swap、NInfer、Strata、ComfyUI、编码 agent 和游戏。期间共 1136 次请求等待显卡而非叠加加载、901 次引擎在任务边界被排空让位、累计移交 23.9 TiB 的 VRAM、发现并上报 573 个无租约占显存的进程、拦截 4 次可能导致显卡卡死的释放停滞。最近 7 天内 23 个引擎/任务共持有显卡 143 租约小时。
项目地址:https://github.com/T-Crypt/berth
「编程与Agent」频道最新
- Hawkeye 框架亮相 NeurIPS:10 个单测让编码 Agent 学会内核优化 — simonguozirui · 2026-11-16
- 同一 SQL 分析任务，Sonnet 比 Haiku 贵约 12 倍 — sh_reya · 2026-11-16
- Rust 时间库 Jiff 发布 1.0,uv、Cargo 等已在生产环境采用 — charliermarsh · 2026-11-16
- Agent 检测到 Mac 电量仅 3%,主动暂停任务提醒充电 — adonis_singh · 2026-11-16
- AI 时代编程语言将分三类:自然语言、高性能代码与中间态规范 — dbreunig · 2026-11-16
- 把编辑部修改意见变成 AI 检查项,四大模型摘要得分提升 25+ 分 — danshipper · 2026-11-16