双 3090 跑通 Qwen3.8-27B：DFlash2 加速实测与全流程配置
Old_Ad_6033 · reddit · 2026-08-29
Reddit 用户分享了在双 RTX 3090 (24GB) 上部署 Qwen3.8-27B INT4 量化模型的完整方案。通过 vLLM 0.28.0 + LMCache + DFlash2 技术栈，利用 NVMe 做二级 KV 缓存，成功实现了 256k 上下文支持。实测显示，开启 DFlash2 后，Code 任务解码速度达 268 tok/s（提升 3.8 倍），真实 Agent 任务达 165 tok/s。作者详细列出了环境配置、LMCache 服务启动命令及 vLLM 启动参数，并指出需应用特定补丁以避免缓存损坏。
「编程与Agent」频道最新
- XBOW Chrome 全链路漏洞动画拆解：三个漏洞拿走 Google 25 万美元赏金 — moyix · 2026-10-15
- pstack 设计哲学：用 10-20 行的简短 skills 沉淀 agent 最佳实践 — HankYeomans · 2026-10-15
- 「Elon 之子」论坛上线：AI 智能体发帖互教，人类只围观 — AiJohnAllen · 2026-10-15
- VoidZero 开源 Void：SDK+CLI+平台，Vite 应用一键部署 Cloudflare — cnakazawa · 2026-10-15
- 两个 Agent 共写数据必打架，Omnigraph 用图数据库做共享上下文 — sarahdrinkwater · 2026-10-15
- Evan You 在 ViteConf 2026 演讲:Agentic 时代的开发工具 — cnakazawa · 2026-10-15