FreeToken 引擎发布：8GB 显存即可跑 290B 边缘 MoE 模型
Saboo_Shubham_ · x · 2026-08-25
FreeToken 是一款边缘原生的 Mixture-of-Experts (MoE) 推理引擎，允许在个人设备上运行数据中心级的大模型。它支持在仅 8GB 显存的笔记本 GPU 上运行前沿模型，兼容 OpenAI 和 Anthropic API 接口（如 Claude Code、Codex 等），并采用 CPU-GPU 协同执行、全局 LRU 专家缓存等技术优化推理速度。项目完全开源。
所属事件:FreeToken 开源引擎：8GB 显存本地跑 290B MoE 模型(2 条相关)→
「Infra」频道最新
- Mistral 携手沙特 HUMAIN，共建本地化前沿 AI 模型与基础设施 — MistralAI · 2026-08-25
- Lovable 峰值每秒创 250 仓库，Code.Storage 支撑 AI 编程基建 — dhruv2038 · 2026-08-25
- SpaceX 太空数据中心构想：核心仅芯片、供电与散热 — XFreeze · 2026-08-25
- NVIDIA 机架引入 Groq 芯片：按工作负载拆分推理算力 — rohanpaul_ai · 2026-08-25
- AI 数据中心落地受阻：缺乏就业与电费上涨引发担忧 — dbasch · 2026-08-25
- 英伟达拟斥资 60 亿美元打造美国 AI 基础设施 — abhishekcode42 · 2026-08-25