Reddit 用户开源本地模型硬件 ROI 计算器,按内存带宽估性能
SnoobieJunes · reddit · 2026-09-19
一位 Reddit 用户分享了自制的本地模型部署 ROI 计算工具,核心逻辑是根据硬件内存带宽估算各模型在特定机器上的运行表现,帮助判断什么硬件配什么模型划算。
作者坦言这 originally 是自己的销售工具,用 Grok 快速生成、尚未仔细审查代码质量,考虑后续开源仓库。他还预计下周发布的新 Mac 凭借更快带宽会有不错表现,承诺等社区基准测试出来后更新工具。
「Infra」频道最新
- Qwen 27B 在双 5090 上跑出 1253 tok/s，成本仅为 API 价 1/8 — me_broke · 2026-09-19
- 全球约20%芯片设计工程师在印度,美系大厂大量设计团队落地当地 — bookwormengr · 2026-09-19
- HBM 市场 2027 年或达千亿美元,美光锁 5 年长约改写内存周期 — Beth_Kindig · 2026-09-19
- NVIDIA 开源 AIPerf：高并发下压测 LLM 推理性能 — NVIDIAAI · 2026-09-19
- SemiAnalysis:跑 Kimi K3 时 AMD Mi355X 每吉瓦利润率 53.6%,反超英伟达 — m2saxon · 2026-09-19
- 用 Lambda MicroVM 搭跨设备 AI 编程环境,作者日常使用 — blaizedsouza · 2026-09-19