Gemma 4 端侧实测：500MB 内存让 iPhone 秒变离线智能助手
cyb3rops · x · 2026-08-06
针对当前语音助手（如 Siri）不够智能的痛点，有开发者展示了在 iPhone 上本地运行 Gemma 4 模型的方案。
该开发者采用感知校准的量化方法压缩模型，使其在保持速度和精度的同时，仅需约 516 MB 的活动内存即可在手机上流畅运行。演示中，该模型作为一个完全离线的智能助手，成功执行了日历管理等复杂操作。
「Infra」频道最新
- AI 推理需求年增十倍，算力短缺将成常态 — TansuYegen · 2026-08-06
- 企业数据无法迁移，AI 战略沦为纸上谈兵 — DavidLinthicum · 2026-08-06
- 单卡 GH200 跑出 9885 tokens/s，Maple 20B 开源 MoE 模型预览发布 — MaziyarPanahi · 2026-08-06
- Extropic 热力芯片实现机器人电机闭环控制 — mjdramstead · 2026-08-06
- Mac本地跑大模型：Nativ支持LiquidAI LFM2.5，8.5GB内存跑满128K上下文 — JosephJacks_ · 2026-08-06
- 初创公司 Panthalassa 研发波浪能漂浮 AI 数据中心 — TinfoilTricorn · 2026-08-06