Strata 更新让四卡 R9700 本地推理速度翻倍:70 提升至 140-160 tok/s
poofph · reddit · 2026-11-03
Reddit 用户实测了 Strata 本次更新对 Flash Next 引擎的性能提升,多卡本地部署用户受益明显。
实测数据(四张 R9700 + 256GB 系统内存,跑 unsloth Q4KXL 量化):
- 更新前:约 70 tok/s 输出
- 更新后:140-160 tok/s 输出,prefill 约 3200 tok/s
- 尝试 Q5 量化时因差约 0.1GB 显存无法启用 split engine,退回普通模式仅约 70 tok/s
对比参考:Radiance 在 Flash Next 下可达约 235 tok/s、prefill 约 7500,仍领先,但 Strata 正在快速缩小差距,且给用户提供了更多可跑模型的选择。
「Infra」频道最新
- Marvell 签下破纪录 1150 亿美元 AI 芯片大单 — LinkedInNews · 2026-11-03
- Hugging Face Kernels 入门指南:一行代码从 Hub 加载优化算子 — ariG23498 · 2026-11-03
- 哈希分区调度优化 Neo4j 并行导入,320 万行提速至 186.5 秒 — JeremyCMorgan · 2026-11-03
- ai& 携手 AMD 东京办黑客松,冠军每人得 75 万日元 token — DavidBennett__ · 2026-11-03
- 马斯克回击算力卫星散热质疑:质疑者将无缘 SpaceX — elonmusk · 2026-11-03
- tinygrad exabox 预订更新:500 万美元得 669 PFLOPS 集群 — andrew_n_carr · 2026-11-03