smolcluster:纯 Python socket 实现 DDP/FSDP/ZeRO 等分布式训练

East-Muffin-6472 · reddit · 2026-11-21

作者开源 smolcluster 教育项目:只用基础 Python 和 socket,从零实现 LLM 分布式训练(及部分推理)的核心算法,目标是搞懂底层机制、在自有零散硬件(3 台 Mac Mini、Jetson Nano 等)上跑本地 AI。

已实现算法:

smolcluster 库支持把 Mac Mini、Jetson Nano、树莓派、手机/平板等异构设备组成集群做分布式训练/推理,教育用途,仍在开发中。适合想彻底理解分布式训练每个细节的初学者。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →