AMD Loom 让 Agent 给 51 个热门模型写内核，Strix Halo 上快过 llama.cpp

jfowers_amd · reddit · 2026-11-14

AMD AI 部门的员工分享了实验性软件栈 hrx-loom：一套端到端的编译器、运行时与服务工具，让任何人无需修改推理引擎或服务器就能编写、优化、部署和共享模型内核。内核用类 MLIR 的向量编程模型 .loom 文件描述（也支持 C++），作者称这种格式对人类复杂、但对 Agent 很友好。

关键成果：

作者开发了一个写内核的 agent skill，针对任意 LLM 的 Q4KM GGUF 生成内核，在 Strix Halo 上 decode 和 prefill 多项指标均持续快于 llama.cpp 的 Vulkan 和 ROCm 后端
跑遍 Hugging Face 趋势榜前 51 个能装进 Strix Halo 的模型（19 个模型家族），100% 由 agent 成功移植，共 449 项测量：prefill 中位提速 1.44×–1.50×，decode 约 1.14×–1.19×
所有模型程序已传回 Hugging Face，tool calling、投机解码、图像输入均正常工作
Linux/Windows 上通过 PyPI 包的 loom-fetch 和 loom-serve 即可直接使用，也可用 /loom skill 移植优化自己的模型

团队还在给 llama.cpp 添加 Loom 后端。SDK 无依赖、可分钟级源码编译，目标设备覆盖 x86、AMD GPU/NPU 和通用 Vulkan 设备。

「编程与Agent」频道最新