MLX 框架仍活跃,社区已转向自研推理引擎
AccBalanced · x · 2026-08-17
有观点指出,尽管遭到批评,但 Apple 的 MLX 框架实际上比以往任何时候都活跃。真正数月未更新的是构建在其上的 LLM 套件 MLX-LM。社区已转向构建定制的 MLX 推理引擎,而非依赖官方 LLM 包。
「Infra」频道最新
- DGX Spark 运行 Qwen3.8-27B GGUF 命令示例 — ariG23498 · 2026-08-17
- llama-server 多模态推理遇报错:位置索引异常 — Gold-Drag9242 · 2026-08-17
- 手持 3090 显卡,如何入手本地部署 Qwen 3.8? — ozymandizz · 2026-08-17
- Qwen MLX 挑战赛上线,角逐本地模型最快推理 — corruptbytes · 2026-08-17
- CoreWeave 前三大客户占比降至 72%,微软依赖度大幅稀释 — AccBalanced · 2026-08-17
- 字节清华发布 CUDA-Agent:RL 生成高性能内核 — AIFlow_ML · 2026-08-17