RTX 4000 Blackwell 24GB 能否与旧 3060 12GB 组合跑本地大模型
Otherwise-Tangelo-52 · reddit · 2026-10-06
用户以低于原价的价格购入一块 Blackwell 架构的 RTX 4000 24GB，手上还有一块旧 RTX 3060 12GB，想知道两块卡能否组合（tensor split）本地加载大模型用于编程任务，并留出安全余量。这是本地部署中常见的异构双卡问题，社区通常会讨论 llama.cpp 的 tensor split、不同带宽显存的权衡及驱动支持情况。
「Infra」频道最新
- 环保组织呼吁立即暂停在美国公共土地建设 AI 数据中心 — Polymarket · 2026-10-06
- KCoral:共享 GPU 池加速 agent 内核开发评测,吞吐提升 2.58 倍 — BeidiChen · 2026-10-06
- AI 基础设施扩张撞上瓶颈：企业 promised 的未来，电网没准备好 — DavidLinthicum · 2026-10-06
- 双 MI50 共 64GB HBM2 本地推理机配置详解 — Savantskie1 · 2026-10-06
- RTX 5060 Ti 实测:Clef Flash 9B Q8_0 llama.cpp 快 30% — ngxson · 2026-10-06
- OpenRouter 单日 token 量破 2T，DeepSeek v4.1 流量一天暴涨 10 倍 — stuffyokodraws · 2026-10-06