Hugging Face 发布 Kernels 库:不改模型代码即可替换更快 kernel
RisingSayak · x · 2026-09-18
Hugging Face 团队成员 Sayak Paul 介绍 🤗 Kernels 库:发现更快的 kernel 时,无需重写模型即可让指定层用上优化实现。
用法要点:
- 用装饰器 usekernelforwardfromhub("SiluAndMul") 让某一层可替换,再注册映射声明"该层在该设备上使用 Hub 里的某个 kernel"
- 调用 kernelize(model, mode=Mode.INFERENCE) 后,Kernels 会遍历模型,只把符合条件层的 forward() 替换为注册的 kernel,其余层不动
- 可分别为推理和训练指定不同 kernel,也可按设备类型区分,支持全局或局部注册映射,粒度可到设备/算力级别
所属事件:Hugging Face 发布 Kernels 库,改映射即可换用高性能 kernel(2 条相关)→
「编程与Agent」频道最新
- Agent 都在加外呼功能,作者提出反向场景:AI 主动打电话找你决策 — RichardsonDx · 2026-09-18
- 开源项目 OpenConfer：让 Agent 主动打电话向人类要决策再继续干活 — RichardsonDx · 2026-09-18
- Hugging Face 员工晒日常：5 个 Claude 线程在上、Codex 线程在下 — NielsRogge · 2026-09-18
- Plane 推出 Plane Agents 并重置全体用户用量额度 — JosephJacks_ · 2026-09-18
- OpenHarness 开源:让编码 Agent 变成 CAD/机器人专家 — dee_hw · 2026-09-18
- 「英语是新编程语言，代码只是汇编」：一句话观点引共鸣 — 0xsachi · 2026-09-18