开源工具 Berth 实现单卡显存在多 AI 引擎与游戏间自动错峰调度

Reddit 用户开发的开源系统服务 Berth 以 Go 单二进制形式发布,可在单张显卡上自动错峰调度显存,让 llama-swap、Ollama、ComfyUI、Strata 等多个 AI 引擎甚至游戏同时共存,解决 24GB 显存不够用的问题。当某个程序需要显存时,Berth 会在多个引擎间自动轮流交接,提升单卡资源的利用率。

2026-10-20 ~ 2026-10-20 · 2 条相关