PyTorch ExecuTorch 新增 WebGPU 后端:模型一次导出浏览器直跑
PyTorch · x · 2026-11-11
PyTorch 官方发布 ExecuTorch WebGPU 后端:过去在浏览器里跑 PyTorch 模型通常要先转成其他框架格式,现在用 torch.export 导出一次,同一个 .pte 文件即可在 Chrome、Safari 等 WebGPU 浏览器中运行,全部计算在本地标签页内完成,提示词、照片和音频不出设备。
- 已验证模型:Llama 3.2、Qwen3、Gemma 3、SmolVLM、SAM 2、Depth Anything V2、D-FINE、Real-ESRGAN、Whisper。
- 支持端侧 LoRA 与 DiReFT 微调。
- 配图基准显示,在 Apple GPU + Chrome 上,WebGPU 后端对 CPU（XNNPACK）的 prefill 提速 4-7.4 倍、decode 提速 1.8-10 倍（Llama 3.2 1B 与 Qwen3-0.6B,不同上下文深度）。
- 已开放 WebGPU Playground 在线试用。
「Infra」频道最新
- Prism 能力提取新进展：从 Qwen 27B 抽出专家模型，内存不到 20%、性能持平 — tokenbender · 2026-11-11
- 苹果曝新应用 Harbor：多台 Mac 雷电5组集群跑本地 AI 推理 — BenBajarin · 2026-11-11
- Agent Arena 实测:任务越难 Gemini 4 Carbon 成本优势越大 — rseroter · 2026-11-11
- Chips and Cheese 深析 AMD Zen 6:分支误预测代价显著降低,整数调度回归 Zen 3/4 布局 — jedisct1 · 2026-11-11
- Together 研究负责人谈内核原理与 AI 优化自身推理的循环 — togethercompute · 2026-11-11
- Hedra 让 AI Agent 跑训练实验，人类研究员只做引导 — testingcatalog · 2026-11-11