Qwen3.8-27B 在 7900 XTX 上靠投机解码大幅提速
darc_knigh · reddit · 2026-11-01
Reddit 用户分享了一个 GitHub 项目 elpis-on-7900xtx：在 AMD RX 7900 XTX 上跑 Qwen3.8-27B 的提速配方。核心是 EXL3 量化加 DFlash2 投机解码，基于 exllamav3-rocm 实现，仓库提供完整 recipe、补丁和 benchmark，作者称速度提升非常可观，适合还在用这张卡跑 27B 模型的用户。
「Infra」频道最新
- clusyio推出Portal：Python任务运行中可换机器继续跑 — AIFlow_ML · 2026-11-02
- Artificial Analysis:同等智能每 4-6 个月便宜 10 倍 — altryne · 2026-11-02
- tinybox 用户实测:4 万美元整机比单买 GPU 还划算,7×24 稳跑数周 — CedricMakes · 2026-11-02
- OpenAI 拟中期选举后将数据中心改称「AI 算力园区」 — TorturedPoet30 · 2026-11-02
- 「电池之王」Maker_Matthew 入驻 X,串行化电池已下产线 — yacineMTB · 2026-11-02
- Wan 2.2 视频中途变色?作者用 AMD 单卡跑 MV 沉淀一批踩坑修复 — wilppuse · 2026-11-02