双卡 Radeon R9700 本地跑 DeepSeek V4.1-Flash:8K 上下文解码 49 tok/s
Longjumping-Elk-7756 · reddit · 2026-10-26
Reddit 用户分享了在 2× Radeon AI PRO R9700(单卡 32GB 显存,共 64GB)上运行 DeepSeek V4.1-Flash(IQ2XXS 量化,约 2bpw)的本地推理实测。
关键数据:
- 解码速度:1K 上下文 28.4 tok/s,4K 31.3 tok/s,8K 49.1 tok/s(开启 DSpark 后)
- Prefill:1K 137.6 tok/s,4K 265.7 tok/s,8K 344.3 tok/s
- DSpark 在 1K/4K/8K 上下文下分别带来 +35%/+44%/+52% 解读提速,但 8K prefill 反而 -4%
- 配置:TP=2 张量并行,128GB 系统内存,Strata 官方运行时
这是少见的高端 AMD 消费卡跑最新 DeepSeek 量化的公开数据点,对本地部署玩家有参考价值。
「Infra」频道最新
- Anthropic 日均合并代码从 2500 暴增至 3 万,自研 Scion 五个月替换 git — bibryam · 2026-10-26
- NVIDIA 演示 RTX Spark 支持机器人仿真后空翻落地现实 — Aiden_Tech_Ai · 2026-10-26
- MiniMax H3 社区狂飙:8 步参考控制、4 步蒸馏、跑上苹果芯片 — Hailuo_AI · 2026-10-26
- 曝 SPCX 收购云算力平台 Modal,细节尚未证实 — arthurcolle · 2026-10-26
- 猜年代挑战:多模梯度折射玻璃波导光学背板曾做到 0.1dB/cm — jwt0625 · 2026-10-26
- Stanford 与 Berkeley 发布 TokenGate:长上下文预填充最高提速 11.3 倍 — MundanePercentage674 · 2026-10-26