RTX 5090 实测:本地运行 Qwen 3.8 27B 速度达 115 tok/s

rohanpaul_ai · x · 2026-08-17

Rohan Paul 分享了在 RTX 5090 (32GB VRAM) 系统上本地运行 Qwen 3.8 27B 模型的演示视频,速度达到 115 tokens/sec。值得注意的是,该模型官方 BF16 权重大小为 55.6 GB,这意味着演示很可能使用了量化版本以适应 32GB 显存。

所属事件:Qwen3.8-27B 多卡实测:本地部署全面可行(7 条相关)→

原文链接 →

「具身」频道最新

更多「具身」频道 AI 资讯 →