公民分布式 LLM 训练实测：仅 443 端口、safetensors 防投毒
OrganizationTop9026 · reddit · 2026-11-14
作者本周将自研的 HiveMind 协调器与 CrowdGPT（由 Vxtzq 主导）对接，围绕开源基座 Crowd-v1 展开一次公民分布式训练（11 月 14-15 日 CET）。该模型含 658M transformer 主干，加 151k 词表的 CrowdEngram 表后总参数约 1.01B，志愿者 setup 仅需五分钟。针对家用 GPU 用户不愿参与分布式训练的三大痛点——要在路由器开洞、怕运行不可信 pickle checkpoint、怕后台训练占用 VRAM——设计如下：- 通信只用出站 HTTPS 443 端口，零入站监听- 权重仅以 SHA-256 校验的 safetensors 传输，全程不用 torch.load/pickle- 更新经 MultiKrum 离群过滤 + held-out loss 检查后按 DiLoCo 方式合并作者坦承这仍是实验性 PoC 而非成熟云服务，提醒勿经志愿节点发送私密 prompt 或敏感密钥。
「Infra」频道最新
- 双 DGX 工作站跑 GLM-5.3：并发 16 达 607.8 tok/s，32 并发延迟飙至 453 秒 — petrusenko_max · 2026-11-15
- 评论员类比微软反垄断案：黄仁勋若离任或成英伟达统治拐点 — TiernanRayTech · 2026-11-15
- 分析师警告:超大规模云厂商或垄断 AI 算力,初创融资恐枯竭 — BenBajarin · 2026-11-15
- Dario Amodei：算力采购是 Anthropic 最深的商业难题 — _AustinCalvert_ · 2026-11-15
- Anthropic IPO 路演图引热议：Mythos 或可用零头算力重训 — Witty_County5128 · 2026-11-15
- Hugging Face 研究员：大厂联手做空 Jensen，因其力推开源 — mervenoyann · 2026-11-15