开源 Strata 引擎:12G 显存本地跑 128B 模型,速度达 96 token/s

daluoseo · x · 2026-10-03

博主推荐开源项目 Strata(GitHub 7.2k star),可在普通游戏 PC 上运行 Qwen3.8-Flash-Next 这类通常需要服务器的大型模型:12GB 显存的 NVIDIA/AMD 显卡即可跑 125B 参数版本,实测速度可达 96 token/s。

项目特性:

注意:「Qwen3.8-Flash-Next」这一模型名称未见于官方渠道,项目真实性有待验证。

所属事件:Strata 引擎让消费级 PC 本地跑超大模型(3 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →