DwarfStar 让 Ada 卡盒变推理服务器
antirez · x · 2026-07-20
antirez 表示，DwarfStar 的新版本可以把一台装满 Nvidia Ada Lovelace 显卡的机器，变成能实际工作的推理服务器。它面向多会话场景，预填充速度可达每秒数千 token，重点是让当前并不太受支持的这类 GPU 组合也能跑起来。
「Infra」频道最新
- 路由故障让 Claude Code 智能体 3.5 小时烧掉 3020 万 token — RileyRalmuto · 2026-07-21
- 单集群可扩至50万卡，华为Atlas 950 SuperPoD算力架构曝光 — pstAsiatech · 2026-07-21
- 韩国七月前 20 天出口增逾五成，AI 芯片带动 — Polymarket · 2026-07-21
- Bittensor 阵营称去中心化训练可抵消数倍算力差距 — markjeffrey · 2026-07-21
- Cloudflare 验证页开始识别 AI 代理而不只是人类 — shashib · 2026-07-21
- 多节点 vLLM 经过拓扑调优，单用户吞吐升至 47 tok/s — TheZachMueller · 2026-07-21