开源端侧模型 Edge0:35B 参数离线跑 iPhone,仅需 1-2.5GB 内存
FinanceYF5 · x · 2026-10-30
端侧 AI 基础设施 Edge0 正在把大模型塞进眼镜、耳机、玩具和机器人等终端设备,无需云端调用,数据不离开设备。
- 该项目开源,可集成到任意厂商硬件
- 据称 35B 参数模型可在 iPhone 上离线运行,内存占用仅 1-2.5GB
- 对比 2025 年 Apple 向开发者开放 3B 端侧模型,端侧能力已大幅跃升
发帖人认为端侧 AI 正从概念变成可直接装入硬件的基础设施。
「Infra」频道最新
- Rust 自托管 Git 平台让编码 Agent 拥有独立账号与最小权限令牌 — Barmazoid · 2026-10-30
- 8GB 笔记本 RTX 4070 跑 WanGP,19 秒视频渲染要 43 小时 — Pnarpok · 2026-10-30
- vLLM 联手 SkyRL 实现 Mistral Large 4 Day-0 强化学习，8 节点 GB200 上 AIME 从 64% 提到 75% — vllm_project · 2026-10-30
- 2 卡 1600W、4 卡 3000W：本地多 GPU 供电清单先查电箱 — dee_hw · 2026-10-30
- 市场惩罚「无现金流的高额资本开支」：16 只 AI 股 11 只跌超 19% — pdamodaran · 2026-10-30
- Intel 承认误判内存涨价冲击，AMD 芯粒架构被指全面占优 — zephyr_z9 · 2026-10-30