FreeToken 开源仓库爆红:17.2k star,本地跑 290B+ 模型
aigclink · x · 2026-11-15
FreeToken 的 GitHub 仓库(FlashML-org/FreeToken)已获 17.2k star、1.7k fork,Apache-2.0 协议开源。
- 定位:在桌面硬件上实现数据中心级模型服务,本地高速运行 290B+ 前沿 MoE 模型
- 提供 GitHub 仓库、论文、开发者 Slack 与社区 Discord/微信,含 benchmarks、docs、安装脚本等完整工程结构
- 与前述发布帖同一项目,补充了仓库热度与工程信息
所属事件:开源引擎 FreeToken 让消费级显卡跑数千亿参数模型(2 条相关)→
「Infra」频道最新
- 怀俄明州数据中心收入或将覆盖全州 17 亿美元预算 — panickssery · 2026-11-15
- 开源推理引擎 FreeToken:RTX 5090 本地跑 DeepSeek 284B 达 25 tok/s — aigclink · 2026-11-15
- WSJ：东南亚数据中心为中企提供算力并涉芯片走私通道 — BenBajarin · 2026-11-15
- Parallel Prompting 让共享文档多问题推理提速至 6 倍 — kalyan_kpl · 2026-11-15
- 微软宕机疑为亚稳态故障,研究者详解恢复反馈环机理 — tianyin_xu · 2026-11-15
- 摩根大通私人银行发布关于英伟达黄仁勋的公开点评 — BenBajarin · 2026-11-15