wllama V3 发布：llama.cpp 的 WASM 绑定支持 WebGPU 与多模态
ngxson · x · 2026-09-19
ngxson 开源的 wllama 是 llama.cpp 的 WebAssembly 绑定，让 LLM 推理直接在浏览器完成，GitHub 约 1.2k star。刚发布的 V3 带来三大更新：WebGPU 支持、多模态（图像与音频）、以及工具调用（tool calling）。
库还提供完全类型化的 OpenAI 兼容 API，作者基于它构建了 openjev 演示。模型权重从 Hugging Face 加载并缓存在浏览器，输入数据不离开页面，适合做纯前端、无后端的本地 AI 应用。
所属事件:wllama V3 发布，openjev 让大模型纯浏览器运行(3 条相关)→
「Infra」频道最新
- Signal65 实测:AMD MI355X 并发 Agent 数中位数达 MI300X 两倍 — ryanshrout · 2026-09-19
- 明年 ASIC 出货量将超 GPU,但定制芯片仍是巨头寡头游戏 — ai · 2026-09-19
- 15 年从业者：数据中心 30-40% 成本被行政与承包商消耗 — SucceededMind · 2026-09-19
- Creative Strategies 上线 Atlas 门户，打包 AI 研究与高管访谈 — BenBajarin · 2026-09-19
- SayGM 叫板 OpenRouter：同模型便宜约 21%，用 TEE 保隐私 — markjeffrey · 2026-09-19
- SGLang 推 SSD Expert Pack:RTX 5090 本地跑 DeepSeek-V4-Flash — ying11231 · 2026-09-19