开源 Strata:12GB 显存家用机跑 1250 亿参数模型

开源项目 Strata(MIT 许可,GitHub 近 8k star)是一个推理引擎,宣称可一键在 Windows/Linux 本地运行 1250 亿参数的 Qwen3.8-Flash-Next 模型,并在 localhost 提供服务,普通游戏 PC 只需 12GB 以上显存即可,实测在 RTX 5070 上达到约 53 tokens/s 的生成速度。

2026-10-03 ~ 2026-10-05 · 2 条相关

事件全程(共 4 集)→