ARPL 项目实现 llama.cpp 在 ARM 设备运行时自适应优化

开发者推出了 ARPL 项目,专为 ARM 设备上的 llama.cpp 提供运行时检测与优化。该项目打破了以往所有手机或芯片都使用同一套参数的假设,能够在运行时读取设备的真实硬件能力,包括 ARM 指令集和核心拓扑结构。目前该工具已在三星 S25 Ultra 上完成测试,有效解决了端侧大模型部署的硬件适配痛点。

2026-08-03 ~ 2026-08-04 · 2 条相关