KitOps ModelKit 联手 HAMi 打通 GPU 推理全链路

HAMi 实验室发布 Lab 17 官方教程(约 60 分钟,已验证),演示在带 NVIDIA GPU 的 Kubernetes 集群上,将模型打包为版本化的 KitOps ModelKit(OCI 制品),通过 HAMi 虚拟化实现 GPU 共享调度,再借助 SGLang 对外提供 OpenAI 兼容 API,实现从 OCI 仓库到 GPU 推理的一条龙流程。

2026-09-27 ~ 2026-09-27 · 2 条相关