社区网站绘出双 RTX 3090 本地模型 Pareto 前沿
EmilPi · reddit · 2026-10-31
locallm.top 维护者分享在 2x RTX 3090 上跑中等规模社区基准集的本地 LLM Pareto 前沿图，显示成绩-响应时间权衡。前沿自两个月前 DeepSeek-V4-Flash-Vision-Exp 和 Qwen3.8-Flash-Next 发布以来未变，作者预期 Qwen4-Flash 将打破格局。站点支持按领域/语言等维度筛选，历史分数与 token/时间数据全程留存，作者号召对细粒度本地 LLM 能力测绘感兴趣的人协作贡献。
「Infra」频道最新
- Clover-35B-A3B 量化后仅 29.4GB，64GB Mac 跑出 42 tok/s — viveky259 · 2026-10-31
- Liquid Agent 登陆 Linux：LFM3 小模型全本地运行，一条命令装好 — JosephJacks_ · 2026-10-31
- 纯本地办公 AI 栈：OCR、Agent、RAG、语音六个开源模型组合 — HowDevelop · 2026-10-31
- a16z 数据：GPU 租金三个月涨 106%，token 价格反跌 58% — a16z · 2026-10-31
- vLLM nightly 支持 PLE 磁盘卸载,PR 标签现「Qwen4Exp」引 Qwen4 猜想 — rmhubbert · 2026-10-31
- 按分钟租 GPU 渲染只要 1 美元:一人 AI 工作室工作流曝光 — r0ck3t23 · 2026-10-31