Ripple 65B 模型单卡部署配方开源分享

开发者 HankYeomans 分享了在 SGLang 及 vLLM 框架上运行 Ricursive AI 的 Ripple 65B Preview 编码模型的完整部署配方,并开源在 GitHub 上。该方案采用 NVFP4 量化,可将 65B 参数模型塞进单张显卡运行,内容涵盖上下文长度等关键配置要点,并附有实测体验,显示 65B 模型在编码任务上具备可用表现。

2026-11-09 ~ 2026-11-09 · 2 条相关