FreeToken 框架宣称大幅加速 MoE 模型推理

新推理框架 FreeToken 于 8 月 18 日发布相关论文并放出二进制文件，宣称在混合专家（MoE）模型服务速度上显著优于 llama.cpp、ktransformers、Ollama 以及 moe-infinity 等现有方案。目前该项目已可供下载试用，业界可实际验证其宣称的性能提升幅度。

2026-08-18 ~ 2026-08-18 · 2 条相关

• FreeToken 宣称 MoE 推理速度大幅超越 llamacpp 与 Ollama — wavefnx · 2026-08-18
• 新框架 FreeToken 声称大幅加速 MoE 模型推理 — wavefnx · 2026-08-18