双显卡跑 vLLM 50+40 系列:作者开源踩坑后的资源配置
Fz1zz · reddit · 2026-10-01
Reddit 用户 Fz1zz 尝试在 PC 上同时使用两块 NVIDIA 显卡(50 与 40 系列)运行 vLLM,发现官方对这种异构双卡组合的资源支持有限,于是自己整理了资源配置方案并开源到 GitHub 仓库 ExTV/dual-gpus-vllm,供有同样需求的人参考。
「Infra」频道最新
- turbopuffer 公开重写存储引擎 v3，实时公开展示查询计划优化 — vboykis · 2026-10-01
- 美银上调美光 FY27/28 预期，称 AI 内存涨价可持续、看 FY28-29 回购达 600-1000 亿美元 — firstadopter · 2026-10-01
- T4 上 190 毫秒出图：蒸馏后文生图模型实现逐键实时生成 — Gradio · 2026-10-01
- Agent 90 分钟跑 322 个 HF Jobs 测代码,账单仅 $4 — vanstriendaniel · 2026-10-01
- 传 Anthropic 将向 Broadcom 采购约 5GW 算力，2027 年或成其最大客户 — zephyr_z9 · 2026-10-01
- 本地秒出录音棚级配音:9900万参数开源TTS跑赢ElevenLabs — JafarNajafov · 2026-10-01