开源工具 Berth 让单张 GPU 在模型与虚拟机间按需切换

开发者开源工具 Berth(最新 v0.3.4),解决实验室仅有一张 24GB RTX 4090 却被聊天模型、Strata 引擎、ComfyUI 和 Windows 游戏虚拟机争抢的问题。它以租借方式在不同工作负载间按需分配 GPU,新版本还加入实验性 Linux GPU VFIO 直通:运行 berth vfio run 时可在安全时机排空推理引擎,把 GPU 借给 Windows 虚拟机并在用完后安全归还。

2026-10-22 ~ 2026-10-23 · 2 条相关