llama.cpp 新 PR 为 Gemma 2B/4B 带来大幅 prompt 处理提速
jacek2023 · reddit · 2026-11-04
开发者 max-krasnyansky 向 llama.cpp 提交 PR #31356,针对 Gemma4 的 E2B/E4B 做图优化(graph optimizations),prompt processing(pp)速度获得大幅提升。该 PR 已有 14 条评论、11 次评审、13 个 commit,变动 +71/-26 行。
「Infra」频道最新
- Fireworks Forge 大会发布 Sovereign 私有化栈与 Ember 下一代，效率再提 30 倍 — AccBalanced · 2026-11-04
- Dylan Patel：CoreWeave 半年内无算力可卖，Nebius 要求全年预付 — AccBalanced · 2026-11-04
- AMD、Arista 财报双超预期，Lisa Su 与 Jayshree Ullal 领跑 AI 基础设施 — TiernanRayTech · 2026-11-04
- Dylan Patel:2029 年前全球 AI 资本开支将达 11 万亿美元,其中 7 万亿靠债务 — AccBalanced · 2026-11-04
- 以色列初创 Lava 押注 AI 数据中心安全盲区：已攻破 4+ 家 neocloud 控制面 — AccBalanced · 2026-11-04
- GPU 短租价半年从 3 美元涨到 13 美元,AI 关键原料成本翻倍 — AccBalanced · 2026-11-04