背包里的 DeepSeek：两台 Mac Studio 离线跑 220 token/秒
Stefania_druga · x · 2026-11-13
开发者 alexocheema 展示了一个完全离线、电池供电的可携带推理设备：电动自行车电池 + 两台 256GB M5 Ultra Mac Studio,通过 Thunderbolt 5 用 RDMA 互联(借助 exo labs),在背包里运行 DeepSeek 模型，速度约 220 token/秒。他强调 Apple Silicon 的内存密度和能效非常适合这类场景，该演示还被称为 sglang 大会上最好的 demo。
所属事件:SGLang 大会现可穿戴算力背包，离线畅跑 DeepSeek(2 条相关)→
「Infra」频道最新
- Strata EXL3 AMD 版提速 10-20%,3bit 量化跑出 4bit 质量 — nasone32 · 2026-11-13
- 花一个月云服务钱买台迷你主机，把 Agent 全部搬回本地跑 — jiayuan_jy · 2026-11-13
- 从 reform school 刷厕所到 5 万亿美元：黄仁勋六十年编年史 — tibo_maker · 2026-11-13
- 二手 32GB 显卡怎么选：MI50 比 V100 便宜近半 — Gold-Produce9591 · 2026-11-13
- 语音模型踩坑提醒：SIP 干线务必拿到 16kHz 音频 — pbbakkum · 2026-11-13
- 开源内核代码明显面向 Blackwell，暗示推理已上 BW — teortaxesTex · 2026-11-13