能否本地跑Qwen 122B
soyalemujica · reddit · 2026-07-12
帖子在问:**Qwen 122B 能否在 64GB RAM + 24GB VRAM 的环境里运行**,如果可以,需要什么设置。 它本质上是在讨论超大模型的本地推理资源约束、量化/卸载之类的部署方式,但原帖本身只有问题,没有展开技术结论。
soyalemujica · reddit · 2026-07-12
帖子在问:**Qwen 122B 能否在 64GB RAM + 24GB VRAM 的环境里运行**,如果可以,需要什么设置。 它本质上是在讨论超大模型的本地推理资源约束、量化/卸载之类的部署方式,但原帖本身只有问题,没有展开技术结论。