P2P分布式跑本地大模型
Regular-Option6067 · reddit · 2026-07-17
DaiHive 是一个用于跨多台机器运行本地 LLM 的 P2P 网络。 它的核心思路是：不需要一台特别强的机器，而是把一个大模型切分到网络里的多个 worker 上，用户像调用普通模型一样发起推理请求。作者还特别提到，项目支持私有/团队模式，可以把办公室里多台闲置电脑组成一个隔离池，用来跑单机放不下的大模型，而不必接入公共网络。 目前项目仍处于 beta 阶段，但 worker 和 UI 都在频繁更新，已经能实际使用。作者希望招募早期测试者，并收集关于 worker/UI、以及后续优先支持哪些模型家族的反馈。