llama.cpp 新 PR 去掉 kq_mask 构建 QSA 选择,为 Qwen 省下数 GB 显存
jacek2023 · reddit · 2026-10-24
Reddit 用户转发 llama.cpp 的 PR #30965（作者 sanmai）：qwen4exp 分支在不使用 kqmask 的情况下构建 QSA selection，据称可为 Qwen Flash Next 节省数 GB 显存。该 PR 有 9 条评论、8 个 review，改动 +28/-14，共 9 个 commit，仍处评审阶段。
「Infra」频道最新
- Baseten 推 Project Beacon，把安全工具内置进开源模型推理层 — baseten · 2026-10-24
- 开源 RL 框架 Miles v0.1.3:首次权重同步 99.5 秒降至 3.9 秒 — hsu_byron · 2026-10-24
- Ziang Li 展示训练实绩:Tensor Core 利用率超 98% — gharik · 2026-10-24
- 砸数百万做 AI 应用分文未赚,旧 GPU 服务器却升值回本 — stephen280up · 2026-10-24
- Polymarket 开盘：明年年底前 AI 数据中心上天，概率 24% — Polymarket · 2026-10-24
- Polymarket 玩梗：谷歌为建 AI 数据中心砍林，狼群进 Finnish 村庄 — Polymarket · 2026-10-24