树莓派预填充速度基准上线,Localmaxxing 榜单覆盖 RTX 5090 等设备

maximelabonne · x · 2026-09-04

Maxime Labonne 转发了 Localmaxxing 网站的本地模型速度基准:收录各硬件上小模型(如 LFM2-350M-NVFP4A16)的解码/预填充速度、TTFT 与显存占用,从 RTX 5090 到树莓派均有数据,还提供解码计算器与提交入口,可用于评估端侧部署选型。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →