65B 也能打编码战:Ripple 模型单卡部署配方实测分享

HankYeomans · x · 2026-11-09

作者 HankYeomans 分享了在 SGLang 和 vLLM 上运行 RicursiveAI 的 Ripple 65B Preview 编码模型的实操配置:给出了上下文长度、张量并行度(TP)与 KV cache 量化等参数的设置建议和性能 profile。

核心亮点是这个小得多的 65B 模型在编码任务上已能与更大模型一较高下,且作者表示可以塞进单张 GPU 运行。帖子附上了 Hugging Face 模型卡(采用 ChatML 模板、支持 XML 格式工具调用)和个人配置仓库链接,想本地跑编码模型的人可以直接照着部署。

所属事件:Ripple 65B 模型单卡部署配方开源分享(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →