DeepSeek-V4.1-Flash 跑上 2x DGX Spark,TensorFold 1.0 引擎解码速度翻倍
EAccelerate_42 · x · 2026-10-09
bertholomusai 发布的 TensorFold v0.6.0 更新(基于 Zig 的原生推理引擎,已 rebase),在 2x DGX Spark 上运行 DeepSeek-V4.1-Flash 的速度显著提升:
- 128K 深度解码:49.8 → 100.1 tok/s(约 2 倍)
- 4 路并发持续输出:125.3 → 142.0 tok/s(+13%)
- 128K prefill:2,242 → 2,354 tok/s(+5%)
- 支持 1M 上下文 + 视觉输入,输出结果逐位(bit-for-bit)一致
代码已开源于 GitHub(bertholomus/deepseek-v4.1-tensorfold-tp2-2xgb10)。注意:DeepSeek-V4.1-Flash 并非官方公开模型名,该消息来源为第三方,真实性未证实。
「Infra」频道最新
- 亚马逊跟进微软宣布弃用数据中心交易保密协议，社区反对已致数百项暂停令 — TechCrunch AI · 2026-10-10
- 亚马逊放弃数据中心保密协议，同时 AI agent 开始接管用户信用卡 — TechCrunch AI · 2026-10-10
- SkyPilot 创始人谈算力困局：囤卡闲置 GPU 年烧超 2000 万美元 — skypilot_org · 2026-10-10
- uv 二进制体积减 40%,每月为公共镜像省近 4 PB 流量 — charliermarsh · 2026-10-10
- Firmus 300 亿美元 IPO 流产,仅 46MW 投产却估值两年涨两倍 — kevinsxu · 2026-10-10
- 超大规模云厂商债券已占美国国债净新增借款可观比例 — matt_slotnick · 2026-10-10