开发者开源 Hugging Face 镜像注册表,Hub 挂了也能启动推理 worker

cmm324 · reddit · 2026-11-19

作者为批处理推理系统 Otium 构建了 Model Delivery:一个自托管模型注册表,解决 AWS Spot worker 启动时依赖 Hugging Face 可用性的问题——Hub 宕机、上游仓库被删、或安全事件期间主动切断上游访问,都会导致空缓存的 worker 无法启动。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →