QuixiCore-ROCm 开源:专为 AMD MI300x 优化的高性能 Kernel 库
QuixiAI · x · 2026-07-30
QuixiAI 开源了 QuixiCore-ROCm，这是一个专为 AMD CDNA 架构（如 MI300x）设计的底层 Kernel 库。
主要特性与优势：
- 原生支持 gguf 格式。
- 提供针对 MI300x 的定制化 HIP kernels。
- 内置 dspark 和 turboquant 支持。
- 针对特定模型和硬件进行了深度调优。
- 加载速度极快：作者表示其加载时间远优于 vLLM，甚至快于 llama.cpp。
所属事件:QuixiAI 开源针对 AMD MI300X 的优化 Kernel 库(2 条相关)→
「Infra」频道最新
- 大模型推理成本骤降：B200 单价已跌破 3 美元 — AccBalanced · 2026-07-30
- Yann LeCun 等探讨：LLM 是新型编译器，性能取决于算力 — yisongyue · 2026-07-30
- 高盛预测AI Token月处理量到2030年将激增70倍 — Beth_Kindig · 2026-07-30
- 244 GiB 大模型冷启动实测：耗时约 154 秒 — QuixiAI · 2026-07-30
- FP8 统一用于训练与推理解码，RL 端到端提速 16% — joecole · 2026-07-30
- ICML 2026 论文 ThunderAgent:解决智能体推理 KV 缓存抖动 — togethercompute · 2026-07-30