FreeToken 提交 PR:新增 Apple Silicon Metal 与 MLX 支持
jasonkneen · x · 2026-08-23
FreeToken 项目提交了针对 Apple Silicon 的 Metal 后端支持 PR。该分支允许在 Mac 设备上无需 CUDA 即可运行 FreeToken,通过路由至 Metal 后端(MLX 或 llama.cpp)实现本地推理。安装脚本现已适配 macOS arm64,支持 M1-M4 芯片,并包含完整的测试验证。
「Infra」频道最新
- 私人算力权崛起:去中心化地下室数据中心或成趋势 — beffjezos · 2026-08-23
- GB300 显存带宽达 7.4TB/s,HBM 现货紧缺 — JosephJacks_ · 2026-08-23
- 「阻止数据中心不会害死人,但拦下算力会」的因果链之争 — flowersslop · 2026-08-23
- GitHub 汇总 300+ 篇大厂工程博客,揭秘系统扩展实战 — tom_doerr · 2026-08-23
- 手动调优 DP 复制度解决训练瓶颈 — code_star · 2026-08-23
- 混合部署更优:云用于隔离,本地主开发 — sull · 2026-08-23