免费工具一站算清 250+ 模型成本：缓存 ROI、GPU 回本点与 VRAM 需求

zackku · reddit · 2026-10-24

Reddit 用户发布免费工具 ModelAnalysis.si，把选模型时最常算的几笔账整合到一个页面，无需注册：

多维 Pareto 前沿图：把 OpenAI、Anthropic、DeepSeek、Qwen、Mistral、Meta 等 250+ 基础模型，放到 Chatbot Arena Elo、SWE-bench Verified、GPQA 与实时 API 价格四个维度上对比。
Token 支出模拟与 GPU 套利计算：输入月度 prompt/completion token 量和缓存命中率，算出精确月花费，并给出"租 RunPod spot GPU 更划算"的回本临界点——这是多数定价表忽略 prompt caching 折扣和批量并发的补位。
VRAM 与硬件计算器：按 FP16/FP8/Q4 等量化级别算开源模型的显存占用（含 KV cache 与上下文长度），一键生成 vLLM 和 Ollama 部署命令。
雷达图对比：速度、上下文、工具调用、token 效率并排比较。

作者点名 LMSYS Elo 只反映人类偏好、给不出经济账，这是做这个工具的动机。完全免费、跑在边缘节点上，正在征集小众开源模型收录和生产环境账目校验反馈。

「模型」频道最新