单张 RTX 3090 跑 27B agent 加图像视频生成:真实日用数据全公开

mightofkhan · reddit · 2026-11-17

作者用一张 RTX 3090(24GB)同时支撑 27B LLM 的 Discord agent 和 ComfyUI 图像/视频生成,靠自写 MCP server 在两者间换入换出 VRAM,所有数据来自 205 条真实 LLM 请求和 35 个渲染任务。

核心数字

经验教训

下一步计划:试 q80 KV cache 腾出显存换更长上下文。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →