开发者开源 vramble:自动调度本地 AI 工作站的显存分配
FeydRowan · reddit · 2026-10-13
Reddit 用户 FeydRowan 发布了开源工具 vramble（GitHub: ValerioDolci/vramble，MIT 协议），解决本地 AI 工作站上多个模型/服务争抢显存的问题。
- 痛点：本地工作站上 LLM、ComfyUI 画图、TTS、coding agent 各自都要占满全部 VRAM，无法共存
- 方案：vramble 作为请求调度层，自动加载/卸载模型，用优先级队列管理排队，省去手动换模型（也不再浪费 Claude token 做编排）
- 配图示例：16GB 显卡上单个模型占 15GB，vramble 让四个服务排队轮流拿卡，释放耗时约 4.7 秒，并告知排队者当前持卡者与预计等待
- 作者附测：Qwen 27B 量化后跑出 200+ t/s，表现超出预期
项目很新，作者欢迎贡献，不保证在所有机器上直接可用。
「编程与Agent」频道最新
- 开发者判断:vibe coder 尚难敌 15 年资深工程师,一年内或逆转 — facontidavide · 2026-10-13
- 开源 Claude Skill 一次生成可用提示词,支持 18+ 工具 — nikola_mr64990 · 2026-10-13
- 内部采购 agent 工具该止步工具形态还是升级成独立应用？ — Moist_Deal_9995 · 2026-10-13
- 5.6 万星 humanizer：按 Wikipedia 清单去除 AI 味 — sujingshen · 2026-10-13
- 腾讯开源 Agent Memory:本地 SQLite 记忆层,token 省 61% — rohan_mehta_charts92 · 2026-10-13
- React 团队 poteto:写作即思考,我从不让 AI 代笔 — andfanilo · 2026-10-13