免费双卡 T4 上跑 Hermes Agent+Gemma 4
GlennCameronjr · x · 2026-07-08
演示使用 Hermes Agent 框架搭配 Gemma 4 31B 稠密模型,经 Ngrok 在免费的双卡 Nvidia T4 GPU(共 32GB VRAM)上运行智能体,强调在显存受限条件下通过智能调度实现本地部署,是一套可复现的工具组合。
GlennCameronjr · x · 2026-07-08
演示使用 Hermes Agent 框架搭配 Gemma 4 31B 稠密模型,经 Ngrok 在免费的双卡 Nvidia T4 GPU(共 32GB VRAM)上运行智能体,强调在显存受限条件下通过智能调度实现本地部署,是一套可复现的工具组合。