DFlash2 量化方案：双 3090 跑 Qwen3.8 262k 上下文
luedtek · reddit · 2026-08-20
作者发布了 Qwen3.8-27B 的 DFlash2 量化版本（W8I）。该方案优化了显存占用，使得两张 3090 显卡可以以接近全 INT8 精度运行 262k 上下文，速度达到 140 tps。目前仍为 Beta 版本，未来会有更多优化和基准测试。
「Infra」频道最新
- 纯 C 引擎 Colibri：消费级硬件跑 2.8T 参数模型 — tom_doerr · 2026-08-20
- 苹果硅质实现 ANE+GPU 联合加速，预填充提速 50% — bakawolf123 · 2026-08-20
- NVIDIA：Vera Rubin 平台每瓦算力提升 10 倍 — nvidia · 2026-08-20
- 观点：SpaceXAI 成第三前沿实验室，算力将达 10GW — thedealdirector · 2026-08-20
- NVIDIA cuOpt 登顶基准测试，开源最强优化问题求解器 — NVIDIAAI · 2026-08-20
- Devin 被指将查询路由至 Opus 5 — teortaxesTex · 2026-08-20