RTX 3090+2080 跑 Qwen3.8-Flash-Next 实测:66K 上下文 2 万 tok/s 预填充

Atagor · reddit · 2026-11-17

Reddit 用户分享在 RTX 3090 24GB + RTX 2080 SUPER 8GB、96GB DDR4 上的本地推理实测(Unsloth UD IQ4XS 量化):

附带 3090 实用踩坑经验:显存接近占满时降频会导致整机死机的驱动 bug,把显存时钟锁定在 9501 MHz 可彻底规避,代价是待机功耗从约 25W 升至约 110W,但吃显存的任务反而更快;满载温度 79°C。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →