llama.cpp 新 PR:为 Qwen 启用稀疏 FlashAttention 再提速
jacek2023 · reddit · 2026-09-21
ggml-org/llama.cpp 仓库合并了一个 CUDA 优化 PR(#28770),由 am17an 提交,为 Qwen(Flash Next)系列启用稀疏 FlashAttention,进一步提升推理速度。作者称这是「又一个 Qwen Flash Next 提速优化」,属于 llama.cpp 社区对本地推理性能的持续打磨。
「Infra」频道最新
- 分析师推算：国产芯片放量后中国或按 1:2 配比逐步放开 H200 — teortaxesTex · 2026-11-12
- 数据中心的账：支撑美国科技业 20% 与十年股市涨幅约一半 — SydSteyerhart · 2026-11-12
- 预算级独显服务器租赁指南:OVH、FiberState 及询价技巧 — realmrfakename · 2026-11-12
- AMD EPYC 评测配图神似 ViT 分割模型 logit 伪影，逗乐 AI 研究员 — giffmana · 2026-11-12
- llama-modchip：64GB 内存纯 CPU 跑 284B 模型，零 GPU — pmttyji · 2026-11-12
- Agent Substrate 计算器：预测不同负载下 agent 会话恢复速度 — pjausovec · 2026-11-12