实测各 VRAM 档位可运行模型:10GB+32GB 内存可跑 35B 稀疏模型

OutdatedMemeKing · reddit · 2026-08-08

开发者分享构建本地 AI 应用时实测的硬件配置表:无 GPU 可跑小型聊天模型(约2.6GB);8GB 可跑聊天+图像+工具(5.1GB);10-12GB 可加视觉模型(11.1GB);24GB 可同时驻留大模型、视觉和代码(20.6GB)。意外发现:10GB VRAM + 32GB 系统内存可运行 35B 稀疏模型(约27GB),速度不快但可用。还指出模型交换比模型大小更重要。

原文链接 →

「具身」频道最新

更多「具身」频道 AI 资讯 →