免费双卡 T4 上跑 Hermes Agent+Gemma 4
GlennCameronjr · x · 2026-07-08
演示使用 Hermes Agent 框架搭配 Gemma 4 31B 稠密模型,经 Ngrok 在免费的双卡 Nvidia T4 GPU(共 32GB VRAM)上运行智能体,强调在显存受限条件下通过智能调度实现本地部署,是一套可复现的工具组合。
「编程与Agent」频道最新
- 开发者晒 AI 编码智能栈：人定方向 Opus 写码 Astra 审查，人类只做审阅 — sh_reya · 2026-10-27
- Baseten 网络课：用自有合并 PR 建 benchmark,按每成功任务成本评估开源模型 — baseten · 2026-10-27
- Thorsten Ball 谈 Agent 工作法：多用评测、多上自动化、放手让 Agent 干 — omarsar0 · 2026-10-27
- 定时运行的 Agent 任务，哪些可以免审批？Reddit 热议信任边界 — MemStrata · 2026-10-27
- 四个值得一试的 MCP 服务器:YouTube 全量字幕搜索等 — Prior_Engineering486 · 2026-10-27
- DeepMind 论文：LLM 无法自行随机采样，需外部传入随机数 — rohanpaul_ai · 2026-10-27