wllama V3 发布：llama.cpp 的 WASM 绑定支持 WebGPU 与多模态
ngxson · x · 2026-09-19
ngxson 开源的 wllama 是 llama.cpp 的 WebAssembly 绑定，让 LLM 推理直接在浏览器完成，GitHub 约 1.2k star。刚发布的 V3 带来三大更新：WebGPU 支持、多模态（图像与音频）、以及工具调用（tool calling）。
库还提供完全类型化的 OpenAI 兼容 API，作者基于它构建了 openjev 演示。模型权重从 Hugging Face 加载并缓存在浏览器，输入数据不离开页面，适合做纯前端、无后端的本地 AI 应用。
所属事件:wllama V3 发布，openjev 让大模型纯浏览器运行(3 条相关)→
「Infra」频道最新
- 生产数据实测：Qdrant 比 Meilisearch 快 2 倍省 9 倍内存 — qdrant_engine · 2026-11-04
- Antseed 挖来ravikantagrawal主管商务，押注点对点推理开放市场 — ravikantagrawal · 2026-11-04
- 德州将超越弗州成数据中心第一州，大量项目仍在早期阶段 — asusarla · 2026-11-04
- 周处理百万条消息,AI agent 生产环境降本 37% 的 13 条实操 — AccBalanced · 2026-11-04
- 一行改动让 RTX 20 系跑 Qwen-Image 2.1 速度翻倍 — xrailgun · 2026-11-04
- 4×RTX 3090 本地跑 DeepSeek V4.1 Flash:524k 上下文 30-40 tok/s — chota23 · 2026-11-04