550 美元收 768GB 内存戴尔老服务器跑大模型推理,社区热议可行性
BobtheGodGamer · reddit · 2026-10-26
Reddit 用户求助:本地一台 Dell PowerEdge R820 服务器售价 550 美元,配置为 4 颗 Intel E5-4640 CPU(2.4-2.8GHz)、768GB ECC 内存(16GB×48)、2 块 146GB 硬盘,询问是否适合跑大模型推理。
作者的思路是:既然 DeepSeek 的激活参数已降到 8B/16B 级别,大内存 CPU 推理加一块 GPU 或许开始变得划算,想知道有没有人真的用这类单体老服务器跑过大模型。属于典型的穷人大内存推理路线讨论。
「Infra」频道最新
- TechCrunch:AI 流量潮会压垮互联网脆弱的基础设施吗? — Azer_pubes33 · 2026-10-26
- TrendForce:2026 年 AI 服务器营收将达 4790 亿美元,占市场 75% — Beth_Kindig · 2026-10-26
- 开发者 vibe coding 出 Llama Swap 安卓控制器,手机远程管理本地模型 — Nevermore1215 · 2026-10-26
- RTX PRO 4000 Blackwell 70W 改 120W，27B 生成速度提升 67% — iam31337 · 2026-10-26
- RTX 4090 跑 Qwen3.8 量化版:三个参数让解码提速 45% — sisyphus-cycle · 2026-10-26
- 数月内降价最高 80%,剖析 OpenAI 与 Anthropic 降价背后原因 — minimaxir · 2026-10-26