mlx-decision：Mac 上本地跑决策模型，比 PyTorch 快 6 倍
armbues · reddit · 2026-10-25
作者发布开源 Python 包 mlx-decision，用 MLX 在 Apple Silicon 上本地运行和微调多款「决策模型」（Clef、pplx-decider、d3、H2O-Lightning、LiquidAI d1 等）。决策模型输入消息/文档/截图加带类型的问题，一次前向输出每个候选答案的概率与置信度，如客服工单自动分诊、情绪强度打分等。
要点：
- 与官方 PyTorch 实现逐 token 对齐校验，同答案下通常快 1.4–6 倍（MPS）
- M5 Pro 上 d1-3B 单次请求 0.06 秒，pplx-decider-flash（4B）16GB MacBook Air 可跑（4-bit 仅 3GB）
- 模型输出可互为训练数据：d1-3B 在 TREC 上 4 分钟从 86.6% 微调到 96.4%
- 附本地 Web Studio：试问题、三模型对比、跑数据集（准确率/混淆矩阵/校准）、微调；另有 Python、CLI、Jev 兼容 HTTP 服务和 MCP 接入
- MIT 协议，pip install mlx-decision 即用
「编程与Agent」频道最新
- 免费开源 LLM Dojo 上线:50+ 交互实验、490 道大厂面试题 — sharpeye_wnl · 2026-10-25
- 创业团队如何在多个 agent 间共享记忆？ — belhelha · 2026-10-25
- 41 个 beta 迭代后发布 Vibe Monitor：用本地 MCP 给编码 agent 加架构检查点 — Either-Alternative32 · 2026-10-25
- KNOWS 基准实测：最强 computer-use agent 完整成功率仅 3.6% — anmarasovic · 2026-10-25
- 开发者给 Grok 接入热成像和全程摄像头，让 AI 实时监测硬件翻车 — Baconbrix · 2026-10-25
- 用 Claude Code 给 2006 年老游戏做出分屏联机 Mod — RecordingTechnical86 · 2026-10-25