2台DGX跑DeepSeek-V4:75 tok/s全攻略与11个踩坑
Striking-Swim6702 · reddit · 2026-08-11
开发者分享了在两台通过线缆连接的 DGX Spark 上,生产级部署 DeepSeek-V4-Flash-0731 (284B MoE) 的完整实战经验。
- 核心性能:在真实编程提示词下达到 74.8 tok/s,64k prompt的首字延迟为42秒,KV缓存支持完整的 1M 上下文。
- 踩坑总结:详细记录了硬件双轨带宽限制、Ray内存监控误杀worker、随机中文乱码环境变量缺失、推测解码在并发下反转等11个隐蔽问题。
- 工具集成:适配了最新版 Codex CLI 的 Responses API,并在包含 1,831 个文件的大型代码库中成功完成了多文件并发特性的 Agent 评估。
所属事件:双机DGX Spark集群实测DeepSeek V4 Flash表现优异(3 条相关)→
「编程与Agent」频道最新
- Nuphos:主打人工审批的AI原生DevOps平台 — JaynitMakwana · 2026-08-11
- 迁移Aider记录至本地记忆:开发者吐槽解析逻辑复杂 — SnooSquirrels4739 · 2026-08-11
- 实测Meta新模型Muse Glimmer:30B专为智能体优化 — altryne · 2026-08-11
- Grok多模态工作流实测:图像生成直通3D建模 — Daniel_Farinax · 2026-08-11
- 尝试将Claude Skills与nb笔记管理结合构建任务工作流 — 4310sy · 2026-08-11
- EnriWeb MCP 服务器发布:为 AI 智能体提供结构化网络搜索与抓取 — modelcontextprotocol · 2026-08-11