老 GPU 工程师把 Qwen 3.8 27B 在 5090 笔记本跑出 500 tok/s

tebjan · reddit · 2026-11-17

一位资深 GPU 程序员分享在 RTX 5090 笔记本上运行 Qwen 3.8 27B 的优化结果:单流基准可达 900 tok/s,针对多 agent 并行负载调优后稳定在 300-500 tok/s。

作者表示还会继续优化,认为并行吞吐调优比刷基准更有意思。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →