开发者全天在 Spark 上跑 DeepSeek:零崩溃,98% 缓存命中 40 tok/s
jasonkneen · x · 2026-09-09
开发者 Jason Kneen 分享在 NVIDIA Spark 上全天运行 DeepSeek 4 Flash 的实测:完成工具统一、文档生成和工具链改进等工作,无一次崩溃或启动失败;缓存命中率 98%,生成速度约 40 token/s,内存几乎吃满。他正配置第二台 Spark 配合使用,展示了消费级设备长时间跑本地大模型做智能体任务的可行性。
「Infra」频道最新
- Claude 近半营收来自云市场渠道，占比三年内从 11% 涨至 47% — BenBajarin · 2026-10-26
- 降价即放量：Anthropic 10 月 token 用量暴涨，年底 ARR 或破 1000 亿美元 — GavinSBaker · 2026-10-26
- Alex Banks：电力是 GPU 上线瓶颈，真正的风险是需求先降温 — thealexbanks · 2026-10-26
- 分析师：蚂蚁是当前工作负载最具弹性可置换的模型厂商 — BenBajarin · 2026-10-26
- Anthropic S-1：训练基建优势使单任务成本降40%、营收增速翻倍 — BenBajarin · 2026-10-26
- 研究揭示合成数据最优比例随算力从10%升至32% — heghbalz · 2026-10-26