16GB 显卡实测：Ornith 9B 连续编码 3.5 小时未停

CrowKing63 · reddit · 2026-08-21

作者在 16GB AMD GPU (RX 9060 XT) 上测试了 Qwen 3.8 27B，发现速度较慢。转而测试 Ornith 1.5 9B (Q6K, 256K 上下文)，配置了 Q8 KV cache。

结果显示，提示词处理速度约 950 tok/s，生成速度约 36 tok/s。在实际编码 Agent 任务中，连续运行近 3.5 小时未中断。作者提供了详细的启动命令参数，认为在小显存设备上优化 9B 模型是比追大模型更实际的方案。