一块 GPU 多台虚拟机共享:直通、vGPU 与 API remoting 详解
LoganGrasby · x · 2026-07-29
这是一份很实用的 GPU 共享笔记,系统梳理了 一块 GPU 怎么给多台虚拟机共用:
- Passthrough:一块 GPU 直连一台 VM,性能最好,但完全不能共享。
- vGPU / mediated passthrough:如 NVIDIA vGPU、MIG 这类硬件切片,接近原生速度,但依赖特定数据中心硬件和授权;每个切片仍是彼此隔离的“封箱”。
- API remoting:把 guest 的 GPU 调用在软件层截获并转发到宿主机执行,速度约为原生的 70%–85%,但宿主机能看到并编排每一次 GPU 调用。
- Emulation:纯软件模拟,兼容性最好,但不适合真实计算。
作者表示,自己在小机器上选择 API remoting,原因就是它比硬件级切分更适合做统一编排。
「编程与Agent」频道最新
- MazeBench 发布 3D 长程规划基准,顶级智能体难过初关 — majidmanzarpour · 2026-07-29
- Dan Grover 做了个在 Herdr 显示 AI agents 的 Stream Deck 插件 — DanGrover · 2026-07-29
- 本地口型识别演示把口型指令直接变成 Claude 代码 — breath_mirror · 2026-07-29
- GitHub 仓库打包 Claude Code、Codex CLI 与 Cursor 实战配置 — tom_doerr · 2026-07-29
- 一个配置界面把 Codex、Claude、Copilot 和 Grok Build 摆上桌 — draginol · 2026-07-29
- 零基础如何构建本地 AI 项目管理器?Reddit 网友支招 — koreanalleyarcade · 2026-07-29