RTX 5090 跑 Qwen 3.6 27B 实测：262k 上下文速度达 40 t/s
Gargle-Loaf-Spunk · reddit · 2026-08-08
一位开发者在 RTX 5090 上使用 llama.cpp 实跑了 Qwen 3.6 27B 模型（Q6K 量化），并分享了针对编码任务优化的启动参数。
性能表现
- 常规任务生成速度约 80-100 t/s。
- 在满载 262k 上下文时，速度会降至约 40 t/s。
- 模型刚好勉强塞进 5090 显存（未加载视觉模块，余量极小）。
关键参数调整经验
- Batch size：经过编码任务对比测试，最终将 -b 设为 512、-ub 设为 128 时性能最佳，比大众常用的更小数值表现更好。
- Reasoning budget：设为较高的 16384。作者发现调低该值容易导致模型在处理任务时“迷失”，尽管难以用标准化评测量化，但主观体验更稳定。
作者同时开启了 MTP 投机采样（--spec-type draft-mtp）等高级特性以榨干性能，并呼吁社区交流各自的配置心得。
「编程与Agent」频道最新
- DHH 深圳行：Omarchy Meetup 超 400 人报名，小米高管现场演示 — LoganGrasby · 2026-10-16
- shadcn 转发 ShadHub：GitHub Registry 目录站上线，可即时提交收录 — shadcn · 2026-10-16
- Sarvam 联手 Figma:基于 Indus 的 Agent 可经 MCP 直接在 Figma 里做设计 — itsOmSarraf_ · 2026-10-16
- 独立开发者给 Mac VM 应用加 MCP：让 agent 搞坏一次性克隆而非真机 — ScholarBackground836 · 2026-10-16
- ComfyUI 拖拽失效排查：第三方节点包劫持 drop 事件 — Inside_Chocolate_967 · 2026-10-16
- 为什么别人家的AI很强你的很拉：Agent四件套拆解 — yangyi · 2026-10-16