macOS 27.3 虚拟机可用宿主 GPU 跑本地 LLM,实测提速最高 7 倍
HankYeomans · x · 2026-11-09
- macOS 27.3 允许 Mac 虚拟机内的 Core AI 使用宿主机的 GPU 与 Neural Engine:新的半虚拟化路径实测最高比客户机 CPU 快 7 倍,可达宿主原生速度的 50%近 100%。
- 目前该 Core AI accelerator 需要私有 API 和受限 entitlement。
- 配置要点:宿主机与客户机都装 macOS 27.3;构建带 com.apple.security.virtualization 与 com.apple.private.virtualization entitlement 的 VM 宿主应用(第二个需放松 AMFI);在 VZVirtualMachineConfiguration 上用 setAcceleratorDevices 添加加速器。
- 转发者指出:这意味着现在可以在 mlx 上对本地 LLM 做一定程度的容器化和沙箱隔离。
所属事件:macOS 27.3 让虚拟机调用宿主 GPU 跑 AI,提速最高 7 倍(3 条相关)→
「Infra」频道最新
- 马斯克回应算力过剩论：算力变便宜，SpaceX 收入也会跌 — elonmusk · 2026-11-09
- TensorFold 1.2.5 发布：本地推理引擎，Nemotron 3.5 达 874 tok/s — HankYeomans · 2026-11-09
- 65B 模型塞进单卡：Ripple 65B NVFP4 在 SGLang 上的部署配方 — HankYeomans · 2026-11-09
- DSpine 让 Qwen3.8-27B 推理提速至 94-132 tok/s，超 DFlash2 约 1.75 倍 — pbaylies · 2026-11-09
- Revolut 用开源模型为 2000 工程师跑编码 agent,成本仅 1/10 — zainhas · 2026-11-09
- 美国数据中心建设支出同比暴涨 90%,年化达 965 亿美元 — Dr_Singularity · 2026-11-09