Strata 引擎实测翻车:2×R9700 上不敌 llama.cpp,质疑定制引擎炒作

Don_Reuter · reddit · 2026-11-01

Reddit 用户在双 R9700(共 64GB 显存)上实测 Strata 推理引擎,目标是用更大上下文(理想 1M)达到与 llama.cpp 跑 Qwen 3.8 27B Q8 + MTP 相当的体验,结果非常失望:

专家卸载到内存必挂:两张卡+ experts offload 到 RAM 的任何设置,长任务都会卡死。
只有全部专家塞进显存才稳定:64GB 下只能跑 3-bit 量化。
纸面快、实际无收益:约 60 t/s 看似更快,但 HumanEval+ 上 3-bit Flash-Next 得分 93.9%,反而低于 llama.cpp 上 Q8 版的 95.1%,且生成 token 数近两倍。

作者结论:相比成熟栈,换来的只是单模型引擎、一堆 fork、特殊量化和环境变量 workaround,质疑社区里定制推理引擎的帖子大多是炒作或边缘案例,并询问是否有人真获得过持续收益。

「Infra」频道最新