开源工具 Berth 让单张 GPU 给 AI 与游戏自动错峰租让显存

Distinct-Pie2389 · reddit · 2026-10-20

Reddit 用户分享了自己在一张显卡上同时跑 llama-swap、Ollama、ComfyUI、Strata 和游戏的方案,核心是一个叫 Berth 的 Go 单二进制工具:所有引擎通过 berth run 启动,Berth 以「租约」方式调度 GPU——新程序要显存时,先排空当前占用者,等驱动确认显存释放后再放行,退出后原引擎自动回来。

要点:

• 只管理自己启动的进程;无租约占用显存的「偷渡者」只报 PID 和显存,不会被杀
• berth harbor:Web UI 显存看板,含图表与 30 天历史
• berth gateway:单一 OpenAI 兼容端口,按模型名自动拉起对应引擎
• berth pull:从 Hugging Face 下载模型并校验 sha256
• 每卡遥测:显存、温度、tokens/s、token 账本、分模型排行

目前支持 Linux + NVIDIA(Windows 实验性),Apache-2.0 协议,处于 Alpha 阶段。

原文链接 →

「编程与Agent」频道最新

• REA 一周狂涨 21.4 万星，AI 逆向工程工具登顶 GitHub 周榜 — sven_ai · 2026-10-20
• 开发者转粉：图将成每家公司世界模型的核心数据结构 — _AustinCalvert_ · 2026-10-20
• RuneBench：让 AI Agent 在游戏 RuneScape 里刷经验测能力 — charliermarsh · 2026-10-20
• Claude 官方 Cookbook:让 Claude 自动审计 Agent 会话安全风险 — brada · 2026-10-20
• 用 Codex 驱动 CapCut Web,对话式 AI 工作流做营销视频 — Div_pradeep · 2026-10-20
• 给 Claude 一个 URL，逆向出 Revolut 完整品牌设计系统 — CurieuxExplorer · 2026-10-20

更多「编程与Agent」频道 AI 资讯 →