smolcluster:仅用 Sockets 实现的分布式训练库
retr0jirachi · x · 2026-08-19
smolcluster 是一个专为教学设计的分布式深度学习库。它允许用户在 Mac mini、树莓派和 Windows 机器等异构硬件上训练和服务神经网络。该项目仅使用 Python 的原生 socket 库,不依赖 NCCL 或 MPI,支持 FSDP、ClassicDP、EDP、参数服务器以及专家并行等多种分布式算法。
「Infra」频道最新
- OpenWolf: 用 7 个隐藏钩子优化 AI 编码助手的上下文 — tom_doerr · 2026-08-19
- Gatana MCP 网关新增持久化存储,支持全加密 — Gatana_Official · 2026-08-19
- Unsloth 推出 Dynamic v3 量化,Qwen 27B 精度提升 10% — danielhanchen · 2026-08-19
- NVIDIA 推出 NeMo Switchyard:智能体多模型路由方案 — NVIDIA Developer · 2026-08-19
- 10T 参数模型推理达 1000 TPS,AGI 实力差距引猜测 — legit_api · 2026-08-19
- 反驳数据中心抵制叙事:居民愤怒的是本地危害而非 AI 本身 — AndyMasley · 2026-08-19