A20 Pro 跑苹果端侧模型:短提示 150 tok/s,较 A19 提升明显
rxwei · x · 2026-09-18
开发者 mweinbach 用苹果端侧基础模型测试了 iPhone 17 Pro Max(A19 Pro)与 18 Pro Max(A20 Pro)的 SoC 推理性能。长提示:A19 为 2340ms 首 token、45 tok/s,A20 为 1125ms、55 tok/s;中等提示:946ms/70 tok/s 对 437ms/71 tok/s;短提示:638ms/100 tok/s 对 354ms/150 tok/s。A20 Pro 首 token 延迟约减半,短提示吞吐提升 50%。
「Infra」频道最新
- 开源模型落地下一个瓶颈是存储:2027 年或成 HDD 大爆发之年 — cocktailpeanut · 2026-09-18
- p0 Parallel Search 上线 Baseten,为开源模型提供低价联网搜索 — baseten · 2026-09-18
- Neon 后端正式 GA:面向应用与 Agent 的数据库原语全家桶 — matei_zaharia · 2026-09-18
- 三元权重 27B 模型 Bonsai 2 不足 6GB,WebGPU 浏览器内可跑 — xenovatech · 2026-09-18
- HyperQwen 项目招募 4090/5090 用户优化 Qwen 本地推理速度 — iamMess · 2026-09-18
- REBCO 高温超导带材:50 特斯拉磁场背后的稀土供应链 — Anen-o-me · 2026-09-18