FreeToken 开源引擎:8GB 显存本地跑 290B MoE 模型
开源推理引擎 FreeToken 于 8 月 25 日发布,定位为边缘原生的 MoE 推理引擎,旨在让个人消费级硬件也能运行数据中心级的前沿开源权重模型。它号称可在仅 8GB 显存的笔记本 GPU 或游戏 PC 上本地运行 290B 参数规模的 MoE 大模型。项目在 GitHub 上已获得约 4.8k star、422 fork。
2026-08-25 ~ 2026-08-25 · 2 条相关
- FreeToken 引擎发布:8GB 显存即可跑 290B 边缘 MoE 模型 — Saboo_Shubham_ · 2026-08-25
- FreeToken:在游戏 PC 上本地跑 290B+ 前沿 MoE 模型的开源引擎 — Saboo_Shubham_ · 2026-08-25