PhoneLLM 实测：P95 延迟低于 600ms，每分钟成本约 0.25 美分
altryne · x · 2026-08-31
Altryne 分享了 PhoneLLM 的性能数据。该模型的 P95 延迟控制在 600 毫秒以内，成本极低，运行一分钟仅需约 0.25 美分。这表明其在端侧或实时语音交互场景下具有极高的性价比潜力。
「Infra」频道最新
- Qwen 3.8 Flash Next 实测：中端手机跑出 3.5 tok/s — dai_app · 2026-08-31
- Boring Company 招商困局：20倍成本优势却缺销售团队 — PTrubey · 2026-08-31
- 硬核实战：4080 显卡运行 182B Qwen 模型达 8 tok/s — Desperate-Data-3747 · 2026-08-31
- AI 正在改变能源系统的监控与运维方式 — ingliguori · 2026-08-31
- Uber 70% 代码由 Agent 接管，账单未涨反降 52% — alvelda · 2026-08-31
- 单核加速 29 倍但整体仅提速 10%？内存瓶颈揭示真相 — shifu_legend · 2026-08-31