手机模型内存占用差 19 倍，9B 模型占近 7GB
ArtificialAnlys · x · 2026-08-25
在 iPhone 17 Pro 上的 4K 上下文测试显示，不同模型的峰值内存占用差距约 19 倍，从 0.4GB（LFM2.5-230M）到 6.9GB（Ornith-1.0-9B 和 Qwen3.5 9B）。对于 12GB 内存的手机，运行 9B 级别的高占用量模型将留给操作系统和其他应用的空间非常有限。
所属事件:Artificial Analysis 发布手机端小模型智能与推理基准(8 条相关)→
「Infra」频道最新
- 微软数据中心遭低估？分析称 5 亿美元资产被 Appeal 至 2.5 亿 — WillRinehart · 2026-08-25
- Waymo 自研 5nm 芯片算力达 1000 TOPS，对标英伟达 Thor — Beth_Kindig · 2026-08-25
- Liquid AI 发布端侧模型评测基准 Pipette，支持开源量化 — JosephJacks_ · 2026-08-25
- YC 创业公司 OneTriangle 发布 KV Cache 传输推理引擎 — brianryhuang · 2026-08-25
- 18GB 内存 M3 MacBook Pro 能跑 ComfyUI 做视频吗？ — Kevin_gato · 2026-08-25
- OneTriangleAI 推出极低延迟 DeepSeek V4 托管 — ycombinator · 2026-08-25