专题 · FULL STORY

Hugging Face 开源 207 个 WebGPU 内核加速浏览器推理

Hugging Face 发布 npm 包 @huggingface/kernels,开源 207 个 WebGPU 内核,可直接从 Hub 加载以加速浏览器端推理。随后官方放出技术深潜,介绍其基于 Jinja 模板自动编译 GPU 内核的设计。

2026-09-01 ~ 2026-09-05 · 2 集 · 5 条

第 1 集 · Hugging Face 开源 207 个 WebGPU 内核加速浏览器推理(2026-09-01,2 条)

Hugging Face 发布 @huggingface/kernels(npm 包),提供 207 个开源 WebGPU 内核,可直接从 Hub 加载并在应用中运行。作者指出快速浏览器推理是一项多层工程,此次发布为在浏览器中高效运行模型提供了关键组件支持。

第 2 集 · HF开源kernels库:浏览器自动编译GPU内核,attention仅20行JS(2026-09-04,3 条)

Hugging Face 发布开源库 @huggingface/kernels 并随后放出技术深潜解析。该库采用 Jinja 模板而非直接发布 WGSL 文件,浏览器可自动编译并选用最快的 GPU kernel,仅约 20 行 JavaScript 即可在浏览器 GPU 上运行 attention,帧率可达 400fps,Google 的 Jason Mayes 也进行了转发,展示了浏览器端高性能推理的可行性。