手机模型内存占用差 19 倍,9B 模型占近 7GB
ArtificialAnlys · x · 2026-08-25
在 iPhone 17 Pro 上的 4K 上下文测试显示,不同模型的峰值内存占用差距约 19 倍,从 0.4GB(LFM2.5-230M)到 6.9GB(Ornith-1.0-9B 和 Qwen3.5 9B)。对于 12GB 内存的手机,运行 9B 级别的高占用量模型将留给操作系统和其他应用的空间非常有限。
所属事件:Artificial Analysis 联合 Liquid AI 发布手机端小模型评测基准(9 条相关)→
「Infra」频道最新
- 铜转光:机架级光背板成 AI 数据中心下一步设计刚需 — BenBajarin · 2026-10-16
- Polymarket 开出 28% 概率:年内将有美国州级数据中心禁令落地 — Polymarket · 2026-10-16
- 宾州居民拒绝每户 1 万美元补偿,抵制亚马逊大型数据中心进驻 — Polymarket · 2026-10-16
- PyTorch 原生跑上 AWS Trainium,零代码改动 — PyTorch · 2026-10-16
- 业内爆料:中国实验室算力仅美国 1/10,字节 2-4 倍价扫东南亚算力 — robleclerc · 2026-10-16
- GPU 优化公司 Zymtrace 融资 1220 万美元,招 ML 工程师打造自主调优 Agent — cfregly · 2026-10-16