四张 R9700 跑 DeepSeek Flash V4.1 IQ2_XS 实测
poofph · reddit · 2026-10-26
作者搭建了 4 张 R9700 的服务器（Epic 7402P、Supermicro H12SSL-NT、256GB 八通道 DDR4 ECC 3200），测试 Strata 引擎运行 DeepSeek Flash-V4.1-1017 IQ2XS 量化的表现，并附性能截图。由于 R9700 内存带宽一般，prefill 是明显瓶颈；系统内存占用偏低，暂不确定是配置问题还是引擎机制所致。作者还提到 Niko 透露 Radiance 引擎在 Flash Next 上为 R9700 带来 3-4 倍 prefill 和出字速度提升的优化即将移植到 Strata，但不确定能否覆盖 DeepSeek 所用引擎。
「Infra」频道最新
- RTX 4090 跑 Qwen3.8 量化版:三个参数让解码提速 45% — sisyphus-cycle · 2026-10-26
- GPU 租金年内涨约 80%，作者称 AI 算力仍是稀缺资产 — JOBhakdi · 2026-10-26
- 开源 Kinoloom 让 8GB 显卡本地跑 AI 电影工作室,16 秒长镜头无跳切 — Dry-Acanthisitta-652 · 2026-10-26
- 550 美元收 768GB 内存戴尔老服务器跑大模型推理,社区热议可行性 — BobtheGodGamer · 2026-10-26
- vLLM 生产栈跑 K8s 没问题,但 agent 沙箱 Modal 用另一套扩展到百万并发 — NielsRogge · 2026-10-26
- 曝 Anthropic 拟以逾10%高息发90亿美元次级债,押注1.5GW TPU租赁 — Beth_Kindig · 2026-10-26