antirez 实测 DGX Spark SSD 流式跑半万亿参数模型，约 9 t/s
antirez · x · 2026-09-14
antirez 演示在单台 DGX Spark 上通过 SSD 流式加载运行 DeepSeek v4.1 Flash（约半万亿参数）：生成速度约 9 t/s，双机 RDMA 可达约 22 t/s。他认为用于问答「勉强可用」，用于编码则不行——除非挂机跑一整晚。相关实现已提交进其 DwarfStar 项目。
所属事件:antirez 实测单台 DGX Spark 流式跑 5000 亿参数模型(3 条相关)→
「Infra」频道最新
- 分析:DeepSeek 与 Kimi 两次冲击如何改写美国超大规模 Capex 竞赛逻辑 — StewartalsopIII · 2026-09-14
- 开源小工具 Free My VRAM:ComfyUI 空闲自动释放显存,30GB 降至不足 1GB — WazaqG · 2026-09-14
- 英伟达牵手Palantir，瞄准超5000亿美元主权AI市场 — Beth_Kindig · 2026-09-14
- 梗帖盘点:本地 LLM 玩家的四大不可言说之痛 — Saren-WTAKO · 2026-09-14
- 美国第二大律所自购英伟达服务器，本地微调开源权重模型 — ai · 2026-09-14
- Andrew Chen 晒本地 AI 工作站：5090 eGPU 加双 DGX Spark 混合路由 — andrewchen · 2026-09-14