2007 年 $350 旧主机实测跑赢 $1500 RTX 5070,内存速度不重要?

Truth-Does-Not-Exist · reddit · 2026-09-28

Reddit 用户用 llama.cpp + Prism32(一个仅需 Python 3.7、仅占 5-10MB 内存的轻量 agent harness)在 5 套不同年代的系统上跑 unsloth 的 Qwen 27B GGUF 量化模型,实测 agentic 任务表现。

结果反直觉:

结论:系统内存容量与 VRAM 才是关键,内存频率/CPU 速度影响甚微;老旧双路至强 + 双 GPU 方案在上下文长度和速度上全面胜过新平台。下一步计划在 DDR3 系统上跑 Qwen 3.8 Flash。Prism32 还能裸机跑在 ARM NAS 和 2008 年的 TP-link 路由器上,适合边缘/老旧硬件部署。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →