2007 年 $350 旧主机实测跑赢 $1500 RTX 5070,内存速度不重要?
Truth-Does-Not-Exist · reddit · 2026-09-28
Reddit 用户用 llama.cpp + Prism32(一个仅需 Python 3.7、仅占 5-10MB 内存的轻量 agent harness)在 5 套不同年代的系统上跑 unsloth 的 Qwen 27B GGUF 量化模型,实测 agentic 任务表现。
结果反直觉:
- 2007 年 Dell Precision T5400(双 Xeon X5460 + 22GB VRAM 双 RX 6700,整套约 $400):144K 上下文,18 tok/s 解码,150 tok/s 预填充
- 2009 年 T5500(DDR3,256K 上下文,22 tok/s)综合表现最佳,性价比最高
- 2025 年 HP Omen(DDR5-6000 + RTX 5070,$1500):仅 131K 上下文,13 tok/s,预填充低至 43 tok/s
结论:系统内存容量与 VRAM 才是关键,内存频率/CPU 速度影响甚微;老旧双路至强 + 双 GPU 方案在上下文长度和速度上全面胜过新平台。下一步计划在 DDR3 系统上跑 Qwen 3.8 Flash。Prism32 还能裸机跑在 ARM NAS 和 2008 年的 TP-link 路由器上,适合边缘/老旧硬件部署。
「编程与Agent」频道最新
- AI 正在重塑初级开发者角色:消失的学徒制 — ArtificialOther · 2026-09-28
- Reddit 网友分享多模型 Agent 编排流:Claude 做指挥、Grok 干活、Codex 当审计 — Sherphican · 2026-09-28
- Higgsfield 推出 11 个制作技能:让 Claude 干活还留下可改工程 — xiaohu · 2026-09-28
- 开源 VelaTerm:把多编码 Agent 会话装进一个原生终端应用 — george-lin · 2026-09-28
- 用 Opus 一条龙生成 SQLite 仓库 7 分钟讲解视频 — deedydas · 2026-09-28
- Is Agentic 上线:给网站打「Agent 可用性」分,npx 一条命令测分 — seanwbren · 2026-09-28