用闲置 Mac 组分布式推理网络,实现 99.87% 可用率
gajesh · x · 2026-10-20
gajesh(讨论 @darkbloomai 的分布式推理网络)回应了「机器断电怎么办」的可靠性疑问,并给出关键洞察:
- 推理任务通常只运行几分钟、状态极轻,即使某台机器意外宕机,损失也极小,任务可迁移到其他机器继续
- 这正是分布式/去中心化通用计算网络的老大难问题,但推理是「轻状态、可迁移」的负载,天然适合分布式
- 引用 cattttang 的观点:传统认为数据中心必须高可靠,但如果负载能容忍 95% 甚至 90% 可用率,就可以在站点间迁移任务,利用闲置的更廉价算力
- 结果:由闲置 Mac 组成的分布式网络实现了 99.87% 的可用率
「Infra」频道最新
- 爆料：新架构下 Cerebras 跑 K3 级模型或只需 10 片晶圆 — bookwormengr · 2026-10-23
- 英伟达单日暴跌 7.21% 报 212.31 美元，市值仍守 5.2 万亿 — michalmalewicz · 2026-10-23
- Serverless 本质是计费模型：有状态计算该怎么按用量收费 — s4chinraja · 2026-10-23
- AKV 推理系统让 Agent 自管 KV 缓存,成本降 27.7% 准确率反升 — _akhaliq · 2026-10-23
- 云锁定新形态：AWS、谷歌自研 AI 芯片带来性能也带来迁移难题 — DavidLinthicum · 2026-10-23
- Linux 内核用 AI 辅助检测 AMD Zen CPU 微架构 — Fcking_Chuck · 2026-10-23