Hugging Face Kernels 支持 Helion,注意力内核比 FlashAttention 快 1.2 倍
RisingSayak · x · 2026-09-15
Hugging Face 与 Meta 团队联合宣布,高性能内核 DSL Helion 现已获得 🤗 Kernels 项目支持,并发布技术博客讲解完整的构建、调优与分发流程。
- Helion 是「PyTorch + tile」式的高级 DSL,用普通 PyTorch 张量算子描述 tile 级操作来写高性能内核
- 借助 Kernels 项目,开发者可将内核打包发布到 HF Hub,用户免于依赖地狱、可无缝消费
- Helion 提供一流的自动调优(autotune)支持,还可预调优内核配置以降低冷启动时间
- 实测:Helion attention kernel 在 H100 上跨 19 个调优 shape 平均比 PyTorch 的 FlashAttention 快 1.2 倍
「Infra」频道最新
- 8GB 显卡本地跑 Flux+Wan 2.2：三个设置错误拖慢了所有渲染 — roro9- · 2026-10-30
- Cloudflare 不肯做,开发者自研工具实现 Durable Objects 零停机迁出 — samgoodwin89 · 2026-10-30
- 曝一家未具名机构已建成规模化算力借贷专项载体 — matt_slotnick · 2026-10-30
- 开源模型涨价挤压推理商:5 月以来 GPU 回本吞吐要求涨 25-83% — bookwormengr · 2026-10-30
- Sam Altman 称芯片供应链“看不见的手”失灵，DRAM 是关键瓶颈 — SnoozeDoggyDog · 2026-10-30
- MoEShift 让 24GB Mac 跑 125B 模型：7.5GB 内存、10 tok/s — dave-tro · 2026-10-30