RTX 5070 12GB单卡跑177B模型实测11-15 tok/s

有创作者实测在RTX 5070 12GB显存、32GB DDR4内存与Ryzen 5 5600GT平台上,借助基于llama.cpp的专家流式方案本地运行Qwen3.8-Flash-Next 177B模型,达到每秒11-15个token的生成速度,显示消费级硬件配合优化方案也有望跑通超大规模模型。

2026-10-03 ~ 2026-10-03 · 2 条相关

事件全程(共 4 集)→

另有 1 条近重复转述:ayobluestarr