双 MI50 32GB 构建求助：如何配置 Hermes 与 vLLM？
opoot_ · reddit · 2026-08-14
Reddit 用户询问在 Ubuntu 24.04 上使用双 AMD MI50 32GB 显卡配置 Hermes 和 llama.cpp 的建议。用户考虑使用 vLLM 进行张量并行，但担心设置复杂。主要用途是运行 Hermes agent 进行通用研究等。
「Infra」频道最新
- llama.cpp 对 Qwen 上下文内存效率不佳？用户实测对比 — nullc · 2026-08-14
- Namecheap数据中心冷却故障致服务中断，部分服务已恢复 — evilsocket · 2026-08-14
- OpenAI发布GPT-5.6构建者指南：账单从33美元降至1.33美元 — xiaohu · 2026-08-14
- Google免费发布GPU大师课，助你掌握硬件优化 — mdancho84 · 2026-08-14
- AMD Linux跑ComfyUI不再折腾：Docker固定ROCm运行时方案 — zychu- · 2026-08-14
- 美光科技市盈率仅9倍，AI芯片股估值引热议 — JOBhakdi · 2026-08-14