65B 也能打编码战:Ripple 模型单卡部署配方实测分享
HankYeomans · x · 2026-11-09
作者 HankYeomans 分享了在 SGLang 和 vLLM 上运行 RicursiveAI 的 Ripple 65B Preview 编码模型的实操配置:给出了上下文长度、张量并行度(TP)与 KV cache 量化等参数的设置建议和性能 profile。
核心亮点是这个小得多的 65B 模型在编码任务上已能与更大模型一较高下,且作者表示可以塞进单张 GPU 运行。帖子附上了 Hugging Face 模型卡(采用 ChatML 模板、支持 XML 格式工具调用)和个人配置仓库链接,想本地跑编码模型的人可以直接照着部署。
所属事件:Ripple 65B 模型单卡部署配方开源分享(2 条相关)→
「编程与Agent」频道最新
- Simon Willison 用 details/summary 折叠 AI 写的 PR 描述长文 — Simon Willison · 2026-11-09
- AI Agent 一个周末修完 41 个报告问题中的 40 个 — julianweisser · 2026-11-09
- HEELO 框架让 Terminal-Bench 解题率从 37.3% 升至 55.5% — Haibo Jin · 2026-11-09
- NVIDIA 研究:得当时机的强弱模型交接可大幅省 Agent 成本 — nvidia · 2026-11-09
- FrontierCS 榜单更新:Claude Sonnet 5.5 在 50% 任务上超参考解 — ajratner · 2026-11-09
- 「会技术」新定义:有耐心反复问 Claude 直到搞懂为止 — brandon_galang · 2026-11-09