Qwen3.6 27B 在 3090 上实测
Top_Outlandishness78 · reddit · 2026-07-15
帖子实测了 Qwen3.6 27B 在 RTX 3090 上的运行表现。
作者表示现在可以做到约 60 tok/s,并且开两个 slot 后质量看起来不错、工具调用很稳定;目前还没开始真正写代码。
他还提到:每个 slot 分配了 100k KV cache,整体占用大约 21GB 显存。
「Infra」频道最新
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- SF Compute 创始人:现在买算力是「绝对糟糕的体验」 — IgorCarron · 2026-09-11
- 开源 SmolVM:2026 年 Agent 不止用浏览器,而是拥有整台电脑 — aniketmaurya · 2026-09-11
- PyTorch Day Korea 2026 首届线下大会启动,9月13日截止征集演讲 — PyTorch · 2026-09-11
- 本地跑 LLM 选卡:4 张 CMP-170HX 涨价 vs Mac Studio M5 — rumboll · 2026-09-11
- llama.cpp 为 RDNA4 调优 Flash Attention,大上下文提升明显 — pmttyji · 2026-09-11