8GB 显存跑 Qwen3.8-27B 仅 5 token/s，如何到可用速度
SoAp9035 · reddit · 2026-08-15
Reddit 用户求助：在 8GB 显存 + 32GB 内存的消费级配置下运行 Qwen3.8-27B,速度只有约 5 token/s。
楼主询问：这套硬件下推荐什么设置/配置能尽可能提速？有没有可能达到日常可用的速度？是典型的本地部署大模型配置优化讨论帖。
「Infra」频道最新
- RTX 3090 跑 Qwen 3.8 27B 约 35 t/s — cviperr33 · 2026-08-15
- CME 推出英伟达 H100 算力期货，视算力为 AI 时代货币 — AccBalanced · 2026-08-15
- 现状反馈：Serverless GPU 容量紧张与延迟高 — tobowers · 2026-08-15
- Touchmark 推出 token 期货市场，较按需价最多省 30% — ycombinator · 2026-08-15
- 宏观分析：AI 股回调是否为买入良机？ — Beth_Kindig · 2026-08-15
- Qwen3.8-27B 推出双 3090 优化 INT8 量化版 — luedtek · 2026-08-15