实测 RTX 5090 跑 Qwen3.8 27B：长上下文速度依然稳定
_-_David · reddit · 2026-08-18
基于 RTX 5090 对 Qwen3.8 27B 模型进行了 7 小时的连续测试（1274 次生成），记录了不同 Prompt 大小下的解码速度中位数：
| Prompt 大小 | 解码速度 |
| :--- | :--- |
| <50k | 169.7 tok/s |
| 50–100k | 167.6 tok/s |
| 100–150k | 156.9 tok/s |
| 150–200k | 149.0 tok/s |
| 200k+ | 143.7 tok/s |
亮点数据：
- 单次请求最大解码速度：222.0 tok/s
- 持续 5 秒间隔最大解码：211.2 tok/s
- 配置：KV cache 设为 q8，上下文长度最大，无超频/降压。
「Infra」频道最新
- FT 称 AI 算力债券面临「达尔文时刻」，CoreWeave 债价暴跌 — firstadopter · 2026-10-16
- 手机当界面、家里服务器跑模型:一套本地 AI 双工作流 — EAccelerate_42 · 2026-10-16
- 「数据中心就是银行」:CoreWeave 风波引出算力监管类比 — arthurcolle · 2026-10-16
- DOT-MoE:用最优传输把稠密模型改造成稀疏 MoE — burkov · 2026-10-16
- 斯坦福 CS336:7B 模型权重仅 14GB,训练却要 84GB 起步 — stanfordnlp · 2026-10-16
- NVIDIA NVFP4 新压缩技巧:利用行内尺度相近性省 45-48% 存储且位精确 — TheZachMueller · 2026-10-16