llama.cpp 为 Intel Arc 合入 Vulkan FA 内核,prefill 大幅提速
llama.cpp 主线合入了面向 Intel Arc/Xe 显卡的专用 Vulkan Flash Attention prefill 内核(PR #29357),利用 Intel 原生矩阵核形优化推理性能。不同帖报数据显示 prefill 阶段最高提速近 9 倍至 15 倍,将显著改善 Intel Arc 显卡上大模型的本地推理体验,被视为 llama.cpp 对非 NVIDIA 硬件适配的重要进展。
2026-11-13 ~ 2026-11-13 · 2 条相关
- llama.cpp 为 Intel Arc 合入专用 Vulkan FA prefill 内核,最高提速 15 倍 — Polaris_debi5 · 2026-11-13
- llama.cpp 为 Intel Arc 合入专用 Vulkan FA prefill 内核,prefill 最高提速近 9 倍 — Polaris_debi5 · 2026-11-13