2007 年 $350 旧主机实测跑赢 $1500 RTX 5070,内存速度不重要?
Truth-Does-Not-Exist · reddit · 2026-09-28
Reddit 用户用 llama.cpp + Prism32(一个仅需 Python 3.7、仅占 5-10MB 内存的轻量 agent harness)在 5 套不同年代的系统上跑 unsloth 的 Qwen 27B GGUF 量化模型,实测 agentic 任务表现。
结果反直觉:
- 2007 年 Dell Precision T5400(双 Xeon X5460 + 22GB VRAM 双 RX 6700,整套约 $400):144K 上下文,18 tok/s 解码,150 tok/s 预填充
- 2009 年 T5500(DDR3,256K 上下文,22 tok/s)综合表现最佳,性价比最高
- 2025 年 HP Omen(DDR5-6000 + RTX 5070,$1500):仅 131K 上下文,13 tok/s,预填充低至 43 tok/s
结论:系统内存容量与 VRAM 才是关键,内存频率/CPU 速度影响甚微;老旧双路至强 + 双 GPU 方案在上下文长度和速度上全面胜过新平台。下一步计划在 DDR3 系统上跑 Qwen 3.8 Flash。Prism32 还能裸机跑在 ARM NAS 和 2008 年的 TP-link 路由器上,适合边缘/老旧硬件部署。
「编程与Agent」频道最新
- 通用 API 目录 MCP 服务器实测:3 个工具换来永不膨胀的上下文 — MandeepKaur9407 · 2026-11-16
- UC Berkeley 论文揭示 LLM「过期绑定」:新值在上下文中仍答旧值 — ombre-ai · 2026-11-16
- Effective HTML 走红 GitHub:4.2k 星的 agent 技能集,线框图秒变可交互原型 — tom_doerr · 2026-11-16
- skills-gate:一个门面 skill 管住所有 agent skills,148 个技能仅耗 389 token — Distinct-Pie2389 · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- shadcn 转评 UI 生成工具:一周工作量一键复现且可直接跑 AI 测试 — shadcn · 2026-11-16