tinybox 推出双卡版主机，跑 DeepSeek 达 245 tok/s
AccBalanced · x · 2026-08-03
tinygrad 宣布推出仅配备 2 张 RTX 6000 Blackwell GPU 的 tinybox 特别版，以致敬 DeepSeek。
官方实测显示，该设备运行 DeepSeek-V4-Flash-0731 模型时，单用户推理速度可达 245 tok/s。设备出厂已包含并测试了未来升级至 4 卡所需的全部硬件。
「Infra」频道最新
- Nemotron 3 Nano Omni 本地实测：单机跑出 264 tok/s — ivan_bezdomny · 2026-08-03
- 全球AI算力将达2亿枚H100，Agent循环加速ASI进程 — 新智元 · 2026-08-03
- Agent 多次工具调用导致 KV Cache 失效的排查与探讨 — CentrifugalMalaise · 2026-08-03
- Wafer 用 AMD MI355X 服务 Kimi K3，吞吐提升 3.8 倍、成本降 71% — SumitGup · 2026-08-03
- 亚马逊Graviton承诺收入环比增近3倍 — Beth_Kindig · 2026-08-03
- Epoch AI 报告：单次 AI 对话能耗不及微波炉加热 10 秒 — Jsevillamol · 2026-08-03