SGLang 大会现可穿戴算力背包,离线畅跑 DeepSeek

在 SGLang 大会上,便携本地算力设备成为焦点:一位开发者将多台 Mac mini 和电池组捆成背包现场走动演示,自称全场无对手;开发者 alexocheema 则展示完全离线、电池供电的推理设备,由电动自行车电池加两台 256GB M5 Ultra Mac Studio 组成,通过 Thunderbolt 连接,可离线运行 DeepSeek 达 220 token/秒,把苹果芯片的移动化推理推向新高度。

2026-11-13 ~ 2026-11-13 · 2 条相关