手机端模型耗时差 30 倍，LFM 最快仅需 0.9 秒
ArtificialAnlys · x · 2026-08-25
在 iPhone 17 Pro 上的实测显示，生成 256 个 token 的端到端耗时在不同模型间差异巨大，最快仅需 0.9 秒（LFM2.5-230M），最慢达 26.7 秒（Falcon-H1R-7B）。性能领先的两款模型耗时分别为 8.0 秒和 21.4 秒。此外，达到约 60 分的评测分数可能消耗 5M 到 75M 不等的输出 tokens，其中 Qwen3.5 9B 因高耗量和 16K 窗口限制在手机端面临挑战。
所属事件:Artificial Analysis 联合 Liquid AI 发布手机端小模型评测基准(9 条相关)→
「Infra」频道最新
- 铜转光：机架级光背板成 AI 数据中心下一步设计刚需 — BenBajarin · 2026-10-16
- Polymarket 开出 28% 概率：年内将有美国州级数据中心禁令落地 — Polymarket · 2026-10-16
- 宾州居民拒绝每户 1 万美元补偿，抵制亚马逊大型数据中心进驻 — Polymarket · 2026-10-16
- PyTorch 原生跑上 AWS Trainium，零代码改动 — PyTorch · 2026-10-16
- 业内爆料：中国实验室算力仅美国 1/10，字节 2-4 倍价扫东南亚算力 — robleclerc · 2026-10-16
- GPU 优化公司 Zymtrace 融资 1220 万美元，招 ML 工程师打造自主调优 Agent — cfregly · 2026-10-16