开发者全天在 Spark 上跑 DeepSeek:零崩溃,98% 缓存命中 40 tok/s
jasonkneen · x · 2026-09-09
开发者 Jason Kneen 分享在 NVIDIA Spark 上全天运行 DeepSeek 4 Flash 的实测:完成工具统一、文档生成和工具链改进等工作,无一次崩溃或启动失败;缓存命中率 98%,生成速度约 40 token/s,内存几乎吃满。他正配置第二台 Spark 配合使用,展示了消费级设备长时间跑本地大模型做智能体任务的可行性。
「Infra」频道最新
- 一周烧掉 2250 万美元算力,数学突破有了新价格标签 — vykthur · 2026-09-09
- 100 万美元听着多，只够 OpenAI 算力开销 10.5 分钟 — wordgrammer · 2026-09-09
- SageMaker Feature Store 推出 UpdateRecord，单次调用实现特征级写入 — AWS ML Blog · 2026-09-09
- Modular 统一计算层演示:TPU v6e、d-Matrix 数天内完成接入 — carrycooldude · 2026-09-09
- LM Studio 发布 Bionic 1.1.2:会话加载更快,无障碍支持大升级 — mattturck · 2026-09-09
- 算账:复现 Navier-Stokes 证明需 3000 亿 token,个人成本上千万美元 — soumitrashukla9 · 2026-09-09