20GB 显存本地跑代码代理该选什么模型
kirisoraa · reddit · 2026-07-13
楼主在一台 **64GB DDR5 内存笔记本 + 20GB 7900 XT eGPU** 的配置上，想找适合本地 **coding agent** 的模型。 他目前的经验是： - **Qwen3.6 35B A3B** 在 CPU offload 场景下表现最好 - 可以在 **Q8、100k context** 下跑起来 - 也能用 **ud-q6kl、完整 262k context** - 虽然速度偏慢，但对他来说 **20+ tokens/s 仍然可用** 他想进一步了解： - 还有哪些 **MoE 模型** 值得在类似硬件上尝试 - 是继续用 **低量化但更大模型**，还是选择 **较小的 dense 模型并全部放进 VRAM**