Pluralis 去中心化训练:权重永不完整落地,无人可独占模型
StewartalsopIII · x · 2026-10-25
播客主持人 Stewart Alsop 向 Alexander Long 邀约访谈,附带的访谈准备笔记披露了 Pluralis Research 的去中心化 AI 技术细节。
笔记要点:
- 模型并行而非数据并行:多数去中心化训练在每个节点复制完整模型,Pluralis 则把模型切成流水线阶段分布到各节点,没有任何节点持有完整权重——这是「模型无法被拥有或关闭」的结构基础。
- 权重从不完整实体化:完整模型只存在于协议内部,从不被组装到一处,既保护模型也让贡献者的价值分配可编程化。
- 解决延迟问题:流水线并行在网络延迟高时会出现空泡,他们基于 Nesterov 的方法修正过期更新,优于异步技术和同步基线;演示中在 200 Mb/s 网络上以约 2 倍减速训练了 GPT-1.3B。
- 所有权即技术属性:贡献者按训练贡献获得部分模型所有权,由协议而非合同强制执行。
笔记还提到研究科学家 Erfan Miah 的表态:在 Anthropic 事件之后,让 AI 对人类有益的唯一路径是去中心化 AI,他加入 Pluralis 来构建「无人能拥有或关闭」的模型,并把 RL 权重同步效率提升约 100 倍的工作带入其中。
「公司和人」频道最新
- ruff 作者:在乎才是护城河,看到烂东西就该痛到修复它 — charliermarsh · 2026-10-25
- 秘鲁 GDG DevFest 开讲:用 Gemma 构建本地苏格拉底式导师 — leslysandra · 2026-10-25
- 高中老师回忆:Dario Amodei 在 Y2K 时期就是「末日论者」 — menhguin · 2026-10-25
- 微软推出全球首个 Agentic DevOps 工程师专家认证,考试 AZ-401 — adnan_hashmi · 2026-10-25
- Figure CEO 展示三代人形机器人同台迭代历程 — adcock_brett · 2026-10-25
- Dario 前物理老师爆料:学生时代就属「末日论阵营」,曾怕 Y2K 酿灾 — Polymarket · 2026-10-25