Hugging Face 推出 Kernel Hub,让计算内核像模型一样分发
ariG23498 · x · 2026-10-14
Hugging Face 的 kernels 文档介绍 Kernel Hub:Python 库和应用可以直接从 Hub 加载计算内核,内核成为 Hub 的一等仓库类型,有专门页面展示支持的硬件与版本。
设计目标包括:
- 可移植:可从 PYTHONPATH 之外的路径加载
- 唯一性:同一 Python 进程可加载同一内核的多个版本
- 兼容性:需支持近期各 Python 版本及不同 PyTorch 构建(CUDA 版本与 C++ ABI),并兼容较旧的 C 库
项目分为 builder(kernel-builder 负责构建、打包与分发)和加载两部分,已有内核可在 huggingface.co/kernels 浏览。
「Infra」频道最新
- Runner 实现直接在量化 GGUF 上训 LoRA,免 PyTorch 免 FP16 底模 — ZenZombie117 · 2026-10-14
- 观点：AI竞赛属于能把足够算力上线的人，Meta已靠堆算力追上 — haider1 · 2026-10-14
- GPU 自有化拐点：利用率超 33% 即跑赢混合云，66% 压过 neocloud — AccBalanced · 2026-10-14
- Koboldcpp v1.123 发布，新增 Qwen Image 2.1 支持 — Fcking_Chuck · 2026-10-14
- 推理生意火爆但黑箱:H100 每小时报价 $2.2 到 $8,利用率与毛利无人知晓 — AccBalanced · 2026-10-14
- 实测 LLM 推理阶段分离：KV 缓存跨 GPU 搬运未必划算 — burkov · 2026-10-14