LocalMaxxing:本地大模型跑分社区,12GB 显存可跑千亿参数
lxfater · x · 2026-10-04
- 一个本地大模型推理速度测试社区 LocalMaxxing，数据全部来自用户在真实硬件上用 CLI 提交的实测结果，非厂商数据。目前已有 2,651 名用户、8,604 次跑分、592 种硬件、726 个被测模型。
- 平台可按模型、显卡、推理引擎和量化格式筛选，核心看三项指标：生成速度（tokens/s）、首字延迟（TTFT）、显存占用。
- 附带解码计算器、社区 benchmark 质量评分、二手硬件交易市场（以实测跑分背书）和租赁板块。
- 适用场景：买显卡前查相近配置的实际表现，或自己跑 CLI 测速上传排行榜。注意对比时看具体测试条件——同一模型换引擎或量化格式速度差异很大。
「Infra」频道最新
- LangChain 编码 agent 成本连降两月，Harrison Chase 公开三步降本法 — hwchase17 · 2026-10-04
- 美国乡村数据中心将迎重大联邦税收减免,部分超大规模厂商却不买账 — nordicinst · 2026-10-04
- 美国农村数据中心将享联邦税收优惠,但部分超大规模厂商兴趣不大 — Wired AI · 2026-10-04
- 同一开源模型在自研引擎里思维循环崩坏,换 llama.cpp 即恢复正常 — pand5461 · 2026-10-04
- 联想推 AI Express:本地 AI 服务器 15 个工作日发货 — shashib · 2026-10-04
- 从 100KB 到 2.5TB:一张图看懂 AI 模型全谱系的硬件与成本账 — abhishekkumar333 · 2026-10-04