DwarfStar 推理引擎实测：Station 170 t/s 生成
antirez · x · 2026-08-17
Redis 作者 antirez 分享了在 Station 上使用 DwarfStar 推理引擎的实测数据：利用 MXFP4 和 Flash 模型，在经过约 48 小时优化后，实现了 170 tokens/s 的生成速度和 22k tokens/s 的预填充速度。他还提到正在测试 PRO 和 Q4 GLM 5.2，以探索在超出 VRAM 容量时，硬件感知推理引擎如何保持高性能。
所属事件:antirez优化DwarfStar推理达170 t/s(2 条相关)→
「Infra」频道最新
- 用 Void 加 fate 一天搭出完整 vibe coding 平台并部署到 Cloudflare — cnakazawa · 2026-10-16
- 开源 VibeZero:用 agent 一把生成整套可部署的 vibe coding 平台 — cnakazawa · 2026-10-16
- CoreWeave 债务成本大幅下降:DDTL 利差从 S+9.62% 收窄至 S+2.25% — BenBajarin · 2026-10-16
- 软银筹备 SB Energy 与机器人子公司 Roze 美国上市,估值或超 500 亿美元 — nordicinst · 2026-10-16
- TRL 复现 Modal 混合精度 RL 训练：GRPO 150 步崩塌，SC+MIS 稳到 0.72 — QGallouedec · 2026-10-16
- Hugging Face 开源印度语系预训练管线:2.8 万亿 token 数据 — Hugging Face Blog · 2026-10-16