wllama v4.0 发布:改用 wasm mem32 提速最高 22%,Chrome 上快 2.8 倍

ngxson · x · 2026-11-23

wllama(浏览器内运行 GGML 模型的 wasm 绑定)发布 v4.0.0。作者 ngxson 解释了一个反直觉的设计选择:新版本弃用 wasm mem64 改用 mem32,因为 mem32 性能最高可快 22%。为绕开 mem32 的 4GB 堆大小限制,作者把 wasm 运行时拆分成多个实例,再通过 RPC 把它们串联起来。

新版本的主要更新:

所属事件:wllama v4.0.0 发布,浏览器内 LLM 推理最高提速 2.8 倍(4 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →