Apple Silicon虚拟化突破:大模型推理提速超10倍

研究团队 trycua 突破了 Apple Silicon macOS 虚拟机的性能限制。他们在虚拟机内引入了自定义兼容层与进程级 Metal 能力层,通过调用更新的 Metal GPU 内核,大幅提升了 llama.cpp 的本地大模型推理速度。实测数据显示,运行大模型的速度暴增超 10 倍,最高可达 16 倍,显著优化了苹果芯片在虚拟环境下的 AI 计算能力。

2026-08-12 ~ 2026-08-12 · 2 条相关