4 张 RTX 3080 跑 Qwen3.6-27B，约 2000 美元可达 69 tok/s
starkruzr · reddit · 2026-07-23
作者在 Vast AI 上用 4 张 20GB RTX 3080 跑 Qwen3.6-27B 做代码生成测试，结论是这套组合的性价比非常高。
- 在接近最大上下文（256K）下，开启 MTP 后 decode 速度约 69 tokens/s
- 关闭 prompt cache、在最大上下文下，prefill 降到 893
- 作者估算：显卡大约 每张 400 美元，整机（主板 + CPU + 64GB 内存等）约 2000 美元
- 结论是：一台廉价的 4×3080 机器 就能高效跑 dense 模型，量化需求低，几乎没有明显性能损失
「编程与Agent」频道最新
- 博主同时跑 20 个 Grok Bot 分工管理日程、路线图与周报 — inkko44 · 2026-10-26
- YC 新公司 Pomerado 开源：把任意网站变成 API，宣称比浏览器 agent 快 2-4 倍 — moeinteractive · 2026-10-26
- 大厂全做 AI 沙箱,Modal 与 Daytona 靠盒外一层仍居增速榜前列 — FinanceYF5 · 2026-10-26
- 用 Claude 搭建全自动 SEO 流水线的六步工作流 — martyamark · 2026-10-26
- 用 agent 三条教训:别靠它读论文、别混学英语、别为烧 token 后台跑任务 — ZeYanjie · 2026-10-26
- Google 社区活动不必全用谷歌技术:Next.js 加 Firebase 也算数 — weskambale · 2026-10-26