llama.cpp 合入 hc 算子优化 Qwen4exp,可重新跑分
jacek2023 · reddit · 2026-09-16
llama.cpp 的 qwen4exp 分支合入 PR #28901,由 am17an 添加 hc 算子(hc ops),发帖人提示是时候对 Qwen Flash Next 重新跑基准了。该改动可能改善相关模型的推理速度,关注本地推理性能的用户可重测。
「Infra」频道最新
- 欲撼动 Postgres 须先复制其集成生态,而非只拼性能 — mgill25 · 2026-11-02
- 用 ESP32 小屏给 DGX 集群做推理监控面板,固件开源 — CATLLM · 2026-11-02
- OpenRouter 年化 Token 量破 10 千万亿,每 10.5 周翻一倍 — deedydas · 2026-11-02
- Palmer Luckey 追问数据中心 RAM 的使用权边界:能否做服务条款禁止的事 — avaitopiper · 2026-11-02
- 本地跑大模型实测:关闭 MTP 可提升 20-30% 生成速度 — InternalMode8159 · 2026-11-02
- Kioxia 股价一年涨 216%,但较 6 月高点已腰斩再腰斩 — zephyr_z9 · 2026-11-02