开源 CLI 工具 LARRI 一条命令租 GPU 跑开源模型

开源命令行工具 LARRI 针对自托管开源模型的运维痛点给出轻量方案:用户只需一条命令即可自动租用 GPU,在上面启动任意适配的开源权重模型(如 Qwen、GLM、Devstral 等),并通过隧道将其暴露为一个固定的本地端点。整个过程无需复杂的部署配置,让开发者能像调用本地服务一样使用远程 GPU 上的开源模型。

2026-09-09 ~ 2026-09-09 · 2 条相关