Mac Studio 运行 Qwen 2.5 72B/27B 实测:性能与 Agent 表现
Over_Technology_1764 · reddit · 2026-08-16
一位用户在 64GB 内存的 Mac Studio 上测试了 Qwen 2.5 模型(提及 27B 和 72B,原文写法有笔误)的运行效果。使用社区 MLX 4bit 量化版本可获得约 16 tps 的速度。在尝试用 Pi Agent 制作宝可梦游戏时,模型陷入思维循环,无法推进复杂任务。作者尝试用 Hermes Agent 调优无果,最终回退到旧模型。作者征集同配置下成功运行大参数模型进行长期任务的经验。
所属事件:Mac 跑本地 Agent 模型实测:内存决定可用性(2 条相关)→
「Infra」频道最新
- Phison CEO 称 CXMT 内存恐慌是“市场鬼故事”,明年的问题是缺料不缺单 — BenBajarin · 2026-10-16
- Ben Bajarin:算力未来是可互换的,超大规模厂商正为工作负载自由布局 — BenBajarin · 2026-10-16
- AirLLM 逐层加载:2.8 万亿参数模型宣称跑进 4GB 显存 — Aiden_Tech_Ai · 2026-10-16
- NVIDIA 发布 cuPotential,用 AI 智能体模拟半导体材料原子交互 — tomaszbednarz · 2026-10-16
- 8 核 CPU 跑 Q4 量化模型,10 分钟单次生成太阳系交互演示 — IntrepidMindExplorer · 2026-10-16
- TokenSpeed MLA 2 发布:Kimi K3 在 Vera Rubin 解码最快提速 3.44 倍 — zhyncs42 · 2026-10-16