民间装机秀:多卡机架号称跑出每秒 700 tokens 的 DeepSeek 推理
philipvollet · x · 2026-11-11
网友 itsjustmarky 晒出一套自制多显卡机架式主机,声称用这套设备即可让 "DeepSeek v4.1 Flash" 达到每秒约 700 tokens 的生成速度。帖子未给出具体配置清单、驱动与推理框架细节,模型名称也未经证实,更多是展示本地部署大模型的硬件玩法。
「Infra」频道最新
- Dell 扩展 AI Data Platform:AI Agent 的瓶颈是数据上下文而非模型 — DavidLinthicum · 2026-11-12
- Pinokio 作者点破:Potion UI 本地跑却是多用户 AI 服务器 — cocktailpeanut · 2026-11-12
- Recursive 自研系统造出 Flint:40B 稀疏模型本地跑 agent 编码 — agihouse_org · 2026-11-12
- AWS 官方推出 AWS 模拟器,可在本地模拟自家云服务 — super_linear · 2026-11-12
- Megakernel 之于 GPU,正如多道程序设计之于 CPU:GPU 正进入操作系统时代 — pranjalssh · 2026-11-12
- Gemini Decision 1 单百万任务成本 $345,为榜首 Drex Max 3 倍多 — ArtificialAnlys · 2026-11-12