树莓派预填充速度基准上线,Localmaxxing 榜单覆盖 RTX 5090 等设备
maximelabonne · x · 2026-09-04
Maxime Labonne 转发了 Localmaxxing 网站的本地模型速度基准:收录各硬件上小模型(如 LFM2-350M-NVFP4A16)的解码/预填充速度、TTFT 与显存占用,从 RTX 5090 到树莓派均有数据,还提供解码计算器与提交入口,可用于评估端侧部署选型。
「Infra」频道最新
- Perplexity CEO 谈本地 AI 硬件:与 Nvidia、Apple 合作,主张本地+云混合路线 — Kr00ney · 2026-09-05
- 分析师对比苹果与英伟达:以资产负债表作为竞争武器 — BenBajarin · 2026-09-05
- Anima 创业公司要做物理世界基础模型,跨物理域训练反超单域模型 — Latent Space · 2026-09-05
- gemma 3 31B 跑分遇阻,开发者 fork vLLM 自写补丁突破速度 — abhijithneil · 2026-09-04
- 投资人 Gavin Baker:数据中心是美国工人阶级最好的事 — GavinSBaker · 2026-09-04
- Kafka、Kafka Connect 与 Schema Registry 变身原生 MCP 工具 — jkriket · 2026-09-04