POCKET 项目:让 350 亿参数大模型在 iPhone 上运行
pmttyji · reddit · 2026-07-28
FINAL-Bench 发布了名为 POCKET 的模型集合,主打在移动端与边缘设备上运行高达 350 亿(35B)参数的大语言模型。该项目已在 Hugging Face 上开源,作者呼吁在手机等低算力设备上实测过的用户分享反馈。
「Infra」频道最新
- Google Cloud 为 Cloud Run 加入限额和沙箱运行环境 — steren · 2026-07-28
- Bloomberg 图谱:Nvidia 位于 AI 循环融资中心 — SumitGup · 2026-07-28
- Moonshot 开源 MoonEP,做 MoE 专家并行负载均衡 — SeunghyunSEO7 · 2026-07-28
- Diffusers 原生接入 Nunchaku 4 比特扩散推理 — dl_weekly · 2026-07-28
- SK hynix 称 AI 需求“难以置信”,存储热潮仍在延续 — firstadopter · 2026-07-28
- OpenAI agent 演示、开源权重潮与 AI 碳成本重塑企业判断 — jonerp · 2026-07-28