专题 · FULL STORY
Hugging Face 开源 207 个 WebGPU 内核加速浏览器推理
Hugging Face 发布 npm 包 @huggingface/kernels,开源 207 个 WebGPU 内核,可直接从 Hub 加载以加速浏览器端推理。随后官方放出技术深潜,介绍其基于 Jinja 模板自动编译 GPU 内核的设计。
2026-09-01 ~ 2026-09-05 · 2 集 · 5 条
第 1 集 · Hugging Face 开源 207 个 WebGPU 内核加速浏览器推理(2026-09-01,2 条)
Hugging Face 发布 @huggingface/kernels(npm 包),提供 207 个开源 WebGPU 内核,可直接从 Hub 加载并在应用中运行。作者指出快速浏览器推理是一项多层工程,此次发布为在浏览器中高效运行模型提供了关键组件支持。
- Hugging Face 开源 207 个 WebGPU 内核,浏览器跑模型再提速 — nicodotdev · 2026-09-01
- Hugging Face 发布 207 个 WebGPU 内核 — nicodotdev · 2026-09-01
第 2 集 · HF开源kernels库:浏览器自动编译GPU内核,attention仅20行JS(2026-09-04,3 条)
Hugging Face 发布开源库 @huggingface/kernels 并随后放出技术深潜解析。该库采用 Jinja 模板而非直接发布 WGSL 文件,浏览器可自动编译并选用最快的 GPU kernel,仅约 20 行 JavaScript 即可在浏览器 GPU 上运行 attention,帧率可达 400fps,Google 的 Jason Mayes 也进行了转发,展示了浏览器端高性能推理的可行性。
- HF 开源 kernels 库:Jinja 模板让浏览器自动编译最快 GPU kernel — nicodotdev · 2026-09-04
- HF 开源 kernels 库深潜:浏览器自动编译 GPU 内核,注意力仅 20 行 JS — nicodotdev · 2026-09-04
- HF 开源 kernels 库:20 行 JS 在浏览器 GPU 跑 attention,400fps — jason_mayes · 2026-09-05