Ripple-65B 单卡 DGX Spark 实测:代码 20.5 tok/s,散文仅 7.6
DZhang50 · x · 2026-11-06
Joey 把 Ricursive AI 的 Ripple-65B Preview 跑在一台 DGX Spark 上(NVFP4 权重 + DFlash2 BF16 draft,128K 上下文),接入 Hermes agent 与 DeepSeek Harness,流式和工具调用均正常。三次实测端到端速度:代码 20.5 tok/s、编辑 26.6 tok/s、散文仅 7.6 tok/s——代码与散文差距明显。
DFlash2 作者之一 Dzianis Zhang 回应解释了原因:他们的 drafter 主要用多轮代码数据训练,以加速 eval 和 RL,所以散文加速慢并不意外。Joey 还试了 vLLM backport 和更短 draft block,各有输赢,暂未找到稳定提速方案,仍用原 SGLang 配置。
「Infra」频道最新
- 老牌投资人:内存股 P/E 低至 3 也不便宜,LTA 随时可能被客户撕毁 — bookwormengr · 2026-11-06
- 企业 AI 的未来更本地化:反欺诈、合同分析等战术场景利好基础设施厂商 — DavidLinthicum · 2026-11-06
- 德州当选州长承诺已批数据中心可完工,新项目将须缴税并保障民生 — GavinSBaker · 2026-11-06
- 开源 Marin 535B-A23B 完成主预训练:18T tokens,下周放 checkpoint — dlwh · 2026-11-06
- Buoyant 开源 Kinference:vLLM 上的 K8s 推理控制平面 — vllm_project · 2026-11-06
- GitHub Octoverse:vLLM 跃居社区开源项目互动榜第 2 — vllm_project · 2026-11-06