单卡 RTX PRO 6000 跑 Ripple-65B:代码 110-120 tok/s 实测
DZhang50 · x · 2026-11-06
PureTensor 实测 Ripple-65B:单张 RTX PRO 6000(600W)上,用 Ricursive 的 NVFP4 权重加 DFlash2 起草模型,agent 中预热后散文稳定 50-70 tok/s,1000 行 Python 脚本生成 110-120 tok/s,验证集跑分最高 135.2 tok/s(6.9 tok/step、51.6ms)。团队私有小规模编码集上 19/20 通过。图表给出了 API 基线对比(无 drafter 时 24 tok/s)。
「Infra」频道最新
- SemiAnalysis:TPUv7 推理每美元性能最高超 B200/B300 达 50% — vllm_project · 2026-11-06
- Meta 总裁:美国新建数据中心将变得非常困难 — SumitGup · 2026-11-06
- 老牌投资人:内存股 P/E 低至 3 也不便宜,LTA 随时可能被客户撕毁 — bookwormengr · 2026-11-06
- 企业 AI 的未来更本地化:反欺诈、合同分析等战术场景利好基础设施厂商 — DavidLinthicum · 2026-11-06
- 德州当选州长承诺已批数据中心可完工,新项目将须缴税并保障民生 — GavinSBaker · 2026-11-06
- 开源 Marin 535B-A23B 完成主预训练:18T tokens,下周放 checkpoint — dlwh · 2026-11-06