LARRI:一条命令租 GPU 跑开源模型并映射到本地端点

gethackteam · x · 2026-09-09

开源命令行工具 LARRI 提供了一种轻量的本地模型方案:自动租用 GPU,在上面启动任意开源权重模型(Qwen、GLM、Devstral 等),并通过隧道将其暴露为一个固定的本地端点。用完即可释放,省去自建和维护推理基础设施的麻烦,适合想用开源模型但不想管 GPU 运维的开发者。

所属事件:开源 CLI 工具 LARRI 一条命令租 GPU 跑开源模型(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →