FreeToken 开源引擎:8GB 显存本地跑 290B MoE 模型

开源推理引擎 FreeToken 于 8 月 25 日发布,定位为边缘原生的 MoE 推理引擎,旨在让个人消费级硬件也能运行数据中心级的前沿开源权重模型。它号称可在仅 8GB 显存的笔记本 GPU 或游戏 PC 上本地运行 290B 参数规模的 MoE 大模型。项目在 GitHub 上已获得约 4.8k star、422 fork。

2026-08-25 ~ 2026-08-25 · 2 条相关