128GB 内存实测:Basalt 推理比 Strata 快 20% 且更稳
Reddit 用户 xMASEx 在自组 AI 工作站(12900K / 128GB DDR4 / RTX 5070 Ti)上,用同一模型 Qwen3.8-Flash-Next iq3s、256k 上下文对比推理引擎 Basalt 与 Strata。结果显示 Basalt 快约 20%、节省 16GB 内存,且能稳定跑完整任务,而 Strata 表现稍逊,结论是 Basalt 在该配置下快且稳,本地跑大模型终于能干活。
2026-11-10 ~ 2026-11-10 · 2 条相关
- 128GB 内存实测:Basalt 比 Strata 快且稳,本地跑 Qwen3.8 终于能干活 — x_MASE_x · 2026-11-10
另有 1 条近重复转述:x_MASE_x