3090 加 3070 跑 27B 值不值
drone_syndrome · reddit · 2026-07-11
作者在一张 **3090 24GB** 上跑 **Qwen3.6-27B**（Q5_K_S，llama.cpp fork + speculative decoding），140K context 下显存几乎占满，但代码生成仍能跑到约 **100 tk/s**，散文约 **45 tk/s**。 他手里还有一张 **3070 8GB**，想知道把它和 3090 组卡后是否能带来实际收益，还是会因为 3070 的较慢带宽拖慢整套模型： - 额外 8GB 是否能换来更大量化（如 Q6）或更长上下文 - 3090+3070 跑 27B dense model 是否更快，还是不如单卡 3090 - 660W 电源在双卡限功耗下是否可行 - 还是应该把 3070 卖掉，攒钱上第二张 3090