开源 Strata:12GB 显存家用机跑 1250 亿参数模型
开源项目 Strata(MIT 许可,GitHub 近 8k star)是一个推理引擎,宣称可一键在 Windows/Linux 本地运行 1250 亿参数的 Qwen3.8-Flash-Next 模型,并在 localhost 提供服务,普通游戏 PC 只需 12GB 以上显存即可,实测在 RTX 5070 上达到约 53 tokens/s 的生成速度。
2026-10-03 ~ 2026-10-05 · 2 条相关
- 第 1 集:开源推理引擎 Strata:游戏 PC 本地跑 1250 亿参数大模型(2026-10-01,7 条)
- 第 2 集:Strata 引擎让消费级 PC 本地跑超大模型(2026-10-02,3 条)
- 第 3 集:RTX 5070 12GB单卡跑177B模型实测11-15 tok/s(2026-10-03,2 条)
- 第 4 集:开源 Strata:12GB 显存家用机跑 1250 亿参数模型(2026-10-03,2 条)
- 开源 Strata:12GB 显存家用机跑通 1250 亿参数 Qwen 模型 — lxfater · 2026-10-03
- 开源引擎 Strata 本地跑 125B 模型,RTX 5070 上实测 53 tok/s — petrusenko_max · 2026-10-05