PyTorch 推出 ExecuTorch WebGPU 后端：浏览器本地跑 LLM 提速最高 7 倍
PyTorch · x · 2026-11-11
PyTorch 团队发布 ExecuTorch 的 WebGPU 后端，让 PyTorch 模型直接在浏览器 GPU 上运行：用 torch.export 导出一次，同一 .pte 文件即可在 Chrome、Safari 等 WebGPU 浏览器中运行，全部在本地标签页内完成，提示词、图片和音频不出设备。
- 已验证模型：Llama 3.2、Qwen3、Gemma 3、SmolVLM、SAM 2、Depth Anything V2、D-FINE、Real-ESRGAN、Whisper，并支持 LoRA / DiReFT 端侧微调。
- 性能（配图基准，Apple GPU + Chrome）：相比 CPU XNNPACK 路径，Llama 3.2 1B prefill 提速 5.4–7.4 倍（512 上下文达 833 tokens/s）、decode 提速 2.4–3.8 倍；Qwen3-0.6B decode 提速最高 10 倍。
- 官方博客与 WebGPU Playground 已上线，可直接试用。
所属事件:PyTorch 推出 ExecuTorch WebGPU 后端，浏览器直跑模型提速至 7 倍(2 条相关)→
「Infra」频道最新
- Infrathon 基准:万卡时实测智能体长时程 AI 基础设施优化 — UW · 2026-11-11
- MLPerf 走进 SC25:12 支高校队参加 48 小时学生集群竞赛 — TheKanter · 2026-11-11
- MLPerf Training v6.1 成绩 11 月 16 日发布，MLCommons 将亮相 SC26 — TheKanter · 2026-11-11
- 临床 AI 工具的硬核测试法：拔掉网线，看诊疗还能不能继续 — MaziyarPanahi · 2026-11-11
- FT起底上海老洋楼里的AI云夫妇：靠Nvidia人脉起家的算力生意 — zijing_wu · 2026-11-11
- AI Agent 20 分钟核查英伟达「75 亿美元对华芯片销售」报道,一处股权说法被文件推翻 — peterjliu · 2026-11-11