开源 vhotseat：让本地 LLM 和 ComfyUI 在同一张 GPU 上轮流干活不 OOM
wandermyz · reddit · 2026-10-19
作者在 RTX 5070 Ti 16GB + 64GB RAM 的单卡环境里，让本地 LLM 智能体通宵驱动 ComfyUI 跑 MiniMax H3 视频渲染而不爆显存，靠的是开源工具 vhotseat（MIT 协议）。
核心机制
- 渲染排队时自动卸载 LLM，LLM 需要回答时自动释放 ComfyUI 模型，两者永不互相覆盖，运行中的任务不被打断（超过 5 分钟卸不了就显式失败而非 OOM）
- ComfyUI 渲染后残留 6-15GB RAM 时，仅在队列为空时重启它
- 附带 comfy-render CLI，让 agent 一次调用跑一批 workflow，把每批的 GPU 交接从两次降到两次/批
- 任意 GPU 任务都可用 vhotseat hold NAME -- COMMAND 包裹排队；支持 Ollama/llama-server 经小代理接入
实测：Strata 服务 Qwen3.8-Flash-Next IQ3XXS（128K 上下文，约 14.7GB VRAM）+ pi agent + MiniMax H3 int8 + turbo LoRA。一次演示任务里 agent 自主完成两轮「渲染→审阅→渲染」：批量出两个镜头、用视觉能力看 contact sheet 选优（识破 B 版把鸟换成了蝴蝶）、以末帧衔接续拍、ffmpeg 拼接，共 4 次 GPU 交接零 OOM。
安装：uv tool install vhotseat，目前支持 Linux + NVIDIA，Windows 计划中，仓库带面向 coding agent 的 quickstart。
「编程与Agent」频道最新
- 用 Codex + Unreal 一周做出全战三国×骑砍混合玩法小游戏 — sven_ai · 2026-10-19
- 三周连赢三个迈阿密黑客松：树莓派加红外相机做商店安防 — MicahBerkley · 2026-10-19
- 两个 AI 互审代码搞了 50 多轮，Claude 团队九成代码由 AI 写 — dotey · 2026-10-19
- 自动驾驶控制算法入门开源项目 Star 破 1.8k,冲击年内 2k — 4310sy · 2026-10-19
- 用户吐槽 Devin：下载文件非要打开面板，摩擦感极强 — HankYeomans · 2026-10-19
- 用 Claude+Codex 后台挂机,业余时间一周做出跨平台游戏 — garrytan · 2026-10-19