Berth 开源:一张 RTX 4090 在聊天模型、ComfyUI 和游戏间按需租借
Distinct-Pie2389 · reddit · 2026-10-23
作者在实验室只有一张 24GB RTX 4090,但聊天模型、Strata 引擎、ComfyUI 和 Windows 游戏虚拟机都想占用它。开源工具 Berth(v0.3.4)用租约机制让多个程序轮流使用同一张卡:一次只租给一个使用者,请求结束后清空显存再交接,连传给 Windows 虚拟机再收回也走同一租约流程。适合显存紧张的单卡环境复用 GPU。
所属事件:开源工具 Berth 让单张 GPU 在模型与虚拟机间按需切换(2 条相关)→
「Infra」频道最新
- Cadence 推出主权 AI 云,服务欧洲芯片设计者 — karlfreund · 2026-10-23
- SGLang 系列深度博客:KV Cache 技术拆解与最新性能优化 — BanghuaZ · 2026-10-23
- 开源 DynaLM：不依赖 GPU 的 CPU 优先 LLM 推理引擎 — Unlikely_Safety_7456 · 2026-10-23
- 资本成 AI 扩建新瓶颈，黄仁勋称新云需求「爆表」 — JOBhakdi · 2026-10-23
- Cerebras 揭秘:如何在晶圆级芯片上部署 2T+ 参数万亿模型 — bookwormengr · 2026-10-23
- IFM 团队开源 RL360：支撑 K2 Horizon 训练的大规模 Agent RL 基础设施 — rupspace · 2026-10-23