Mac mini 实测:本地跑 27B 模型流畅,当 Agent 服务器全天候干活
APPSO · wechat · 2026-09-21
APPSO 深度实测新款 Mac mini 的 AI PC 定位，核心结论是它更适合作为「Agent 常驻服务器」而非本地大模型工作站。
- 本地模型实测：27B 量化模型（如 Qwen）总结长文档速度约 32 token/s，可接受；70B Llama 3.1 基本不可用（单句回复近 3 分钟）。48GB 的 M5 Pro 舒适区是 200-300 亿参数模型；GGUF 跨平台通用，MLX 围绕 Apple Silicon 统一内存设计，谁更快取决于模型与运行时版本。
- Agent 实战：LM Studio Bionic 可识别设备内存并提示模型能否完整 GPU 卸载，能读文件、跑命令、连续多步执行；实测让 Agent 操作 Blender（走 Python API 而非 Computer Use）建模、渲染并生成营销页。视频生成压力大：15s 视频跑了近 90 分钟。
- 新用法：作者把 Mac mini 当 Codex Agent 服务器，四个 Agent 同时写 Xcode 工程、编译 Chromium、处理 100GB 素材、Blender 建模渲染，人机并行不卡顿——传统 PC 的「多任务」正在变成「多 Agent」，全天候常驻的小盒子可能正是这种变化的早期形态。
「编程与Agent」频道最新
- 两人小公司用 46 个 AI Agent 运营：审批门禁、哈希锁文件与翻车复盘 — dkovl · 2026-11-12
- LlamaIndex 让 AI Agent 渗透测试自家 LlamaParse，四天暴露四条经验 — llama_index · 2026-11-12
- Manhattan 字体 v0.0.1：每个字母都是一个 Python 函数 — allanyu_ · 2026-11-12
- 用 Backplane「提示词造出」任意扩展卡,网友呼吁扩展口回归标配 — _Stocko_ · 2026-11-12
- Agent 会话跑了 51 分钟烧 24.8 万 token,网友直呼还在干活 — _Stocko_ · 2026-11-12
- 可视化 AI Agent 团队协作：每个 Agent 一间「房间」，共享知识库 — LiorAloni11 · 2026-11-12