wllama v4.0.0 发布,浏览器内 LLM 推理最高提速 2.8 倍

llama.cpp 的 WebAssembly 绑定库 wllama(拥有 1.4k stars)发布 v4.0.0,显著提升浏览器内 LLM 推理能力。作者 ngxson 宣布,在 Chrome 与 Firefox 实测下,推理速度和模型加载速度提升一倍以上,Chrome 上最高可达 2.8 倍,同时支持加载更大的模型。新版本可直接在线试用。

2026-11-23 ~ 2026-11-23 · 4 条相关

另有 2 条近重复转述:ngxson · ngxson