FreeToken 把数据中心级推理搬到桌面,Star 冲上 1.5 万
FlashML-org · github · 2026-11-01
GitHub 热门项目 FlashML-org/FreeToken:宣称把数据中心规模的模型服务带到桌面端,在本地快速高效地运行超大模型,主打 MoE 架构与边缘推理,topics 中提及 deepseek-v4、Qwen、GLM、MiniMax 等模型。Python 编写,目前 Star 15,098(单日 +232),但有 283 个 open issues。
「Infra」频道最新
- 一张图讲清 API 按 token 计费的钱都花在哪 — cneuralnetwork · 2026-11-01
- 马斯克称 xAI 资本开支效率被严重低估 — RachelVT42 · 2026-11-01
- AI 泡沫破裂蔓延:中国股市蒸发 23.5 万亿,纳指单日跌 3.46% — Grady_Booch · 2026-11-01
- Strata 引擎实测翻车:2×R9700 上不敌 llama.cpp,质疑定制引擎炒作 — Don_Reuter · 2026-11-01
- exo 把多台 Mac 组成 AI 集群，48.1k star 可跑单机放不下的大模型 — alex_verem · 2026-11-01
- 6 个开源本地 AI 工具盘点：Mac 8GB 内存也能离线跑模型 — alex_verem · 2026-11-01