买 GPU 前先感受 token 速度:开发者上线 llmspeed.dev 估算网站
nypaavsalt · reddit · 2026-10-17
开发者发布了一个小网站 llmspeed.dev,让你在掏钱买显卡之前先估算本地 LLM 在该硬件上的 tokens/s 生成速度。作者自用后觉得对他人也有用,便开源了。
注意它是估算而非精确值,实际速度会因个人配置而异。代码开源于 GitHub(nicorobinreal/llmspeed)。
「Infra」频道最新
- Latent Space 周报:Meta 816B 开源模型登顶,TPUv7 性价比超 GB300 — Latent Space · 2026-10-17
- 50W 功耗 Jetson AGX 64GB 实测 Qwen 系列模型:27B Q4 生成 10.5 token/s — Boognevatz2 · 2026-10-17
- 开源驱动让 RTX 5090 在 macOS 跑 Metal,本地推理多一条路 — quantier · 2026-10-17
- DFB 激光器将走向 LED 式过剩:作者测算 2030 年全球 1GW 产能 — jwt0625 · 2026-10-17
- 嘴上说市场不理性,CoreWeave 三位联合创始人已套现 33 亿美元 — GaryMarcus · 2026-10-17
- 96GB+48GB 显存玩家晒全本地智能体「Muse」,征长程任务模型选型 — CharlesStross · 2026-10-17