Hugging Face 开源 207 个 WebGPU 内核,浏览器本地 AI 提速
Hugging Face · youtube · 2026-09-04
Hugging Face 发布了 207 个面向浏览器 AI 的 WebGPU 内核,全部开源托管在 Hub 上,并配套发布 @huggingface/kernels 库,负责内核的加载、校验、渲染与运行。
视频讲解了核心设计:
- op 与 kernel 的区别、为什么选 WGSL 语言;
- 为什么用 Jinja 模板而非固定 WGSL 文件:浏览器会根据用户设备支持的数据类型和 workgroup 尺寸,动态生成针对该硬件最快的内核。
两个基于该体系的 demo:
- 用约 20 行 JavaScript + tinyBERT 权重实现 attention 机制;
- 用单个 matmul 内核驱动 100 万+ 单元的波动动画,性能上限仅受 requestAnimationFrame 限制。
另推出 Fleet 平台,用户可在自己的 GPU 上跑内核基准测试,帮助官方优化其无法覆盖的数千种设备。配套资源包括博客、kernel playground、npm 包和 Hub 集合。
「编程与Agent」频道最新
- Luke Wroblewski 做折叠屏智能体管理 App:协调 agent 已成全天候工作 — LukeW · 2026-10-21
- Agentic SDLC:工程师从写代码者转型为智能体编排者 — Pavan_Belagatti · 2026-10-21
- OpenAI dots 接入 Merge for Workforce:员工权限即 agent 权限 — shensi · 2026-10-21
- 拆解 Agent 拓扑:模型、循环与工具各跑在哪,决定成本与安全 — davidcrawshaw · 2026-10-21
- Agent 全盘+辅助功能权限失控,企业急需任务级访问控制 — leveragedupside · 2026-10-21
- Acellera 用无监督 AI 科学家虚拟实验室跑真实分子发现项目 — gdefabritiis · 2026-10-21