凌晨想法:能否用分布式 iPhone 组成推理网络?
gajesh · x · 2026-09-08
作者提出一个开放性设想:利用大量分布式 iPhone 组成算力网络,其隐私模型可能比依赖 macOS 的 Darkbloom 类方案更简单。
他抛出具体参数供讨论:单台 iPhone 约 12GB 内存、60GB/s 内存带宽、6/6 CPU/GPU 核心,外加 100Mbps 的不限量数据——这样的设备集群究竟能跑出什么?
「Infra」频道最新
- CPU 本地跑模型实测:35B MoE 量化版胜过 2B 小模型 — ML-Future · 2026-09-08
- 13 星开源项目 HydraDB:整个图数据库直接活在 S3 里 — thisdudelikesAI · 2026-09-08
- 单卡 4090 跑 Qwen 27B/Gemma 31B 本地推理,如何平衡量化与上下文 — MooseEfficient2151 · 2026-09-08
- 候选深度 10→500 分数仅涨 0.01：Qdrant 实测检索调参先诊断再动手 — qdrant_engine · 2026-09-08
- Reddit 网友为 7900XTX 定制 llama.cpp：27B Q8 跑出 1600tk/s 预填充 — nasone32 · 2026-09-08
- 离散扩散并行采样加速 LLM 推理，无需草稿模型且无损 — IFM · 2026-09-08