用 SSH 端口转发把 DGX Spark 上的 Ollama 变成本地服务
aestheticedwar1 · x · 2026-10-14
作者演示在 NVIDIA DGX Spark 上运行 Ollama,并通过一条 ssh -L 11434:localhost:11434 命令把端口转发到本地,笔记本上的工具就像调用本地模型一样使用 Spark 上的 128 GB 显存模型。后续推文补充可用 NetBird 免开入站端口直接从任意网络 SSH 接入。
所属事件:SSH 端口转发让笔记本直连 DGX Spark 上的 Ollama(2 条相关)→
「Infra」频道最新
- 数据重复预训练新研究:小批次自带正则化,GPU 多未必 loss 低 — Sewon Min · 2026-10-14
- 实测 Liquid LFM2.5-24B:Mac 上跑出 174 tok/s,速度宣称基本属实 — TheOyinbooke · 2026-10-14
- 投资人警告:neocloud 扎堆转推理却无差异化,恐难逃整合 — AccBalanced · 2026-10-14
- Lightning AI 将亮相 GTC 柏林,谈创业公司各阶段如何拿到 GPU — LightningAI · 2026-10-14
- Hugging Face 将直播讲解投机解码,如何给本地 LLM 提速数倍 — mervenoyann · 2026-10-14
- 黄仁勋的算盘:扶植 CoreWeave 在大客户与英伟达间筑起缓冲层 — AccBalanced · 2026-10-14