llama-server 夜间频频崩溃：元凶是系统内存而非模型
Stunning-Sherbet1853 · reddit · 2026-10-14
作者在 Windows 上用 Ollama（llama.cpp）构建本地 agent，三台机器（24GB 台式、8GB 笔记本、6GB 笔记本）跑同样任务，6GB 笔记本一晚崩溃三次。排查发现两大元凶：
1. llama.cpp 的 prompt cache
- llama-server 的 prompt cache 默认放在系统 RAM 而非 VRAM，默认上限 8GB，一个 40K token 状态约 1.3GB
- 24GB RAM 笔记本上 runner 内存可涨到 12GB；现改为按整机 RAM 设置上限（24GB 机器设 4GB）
2. 自身 agent 进程泄漏
- 8GB 笔记本 12 小时泄漏 18GB：一是浏览器标签页关闭后未释放其网络响应，二是带了一个只在开发机上匹配的 Windows 组件定义
- 通过按类型统计存活对象、间隔 10 分钟做两次快照 diff，快速定位问题
修复前后对比（同任务同模型）
- 8GB 笔记本：101 分钟内存 3280→5434MB，修复后 91 分钟仅 2699→2809MB
- 6GB 笔记本：修复后 5 小时零崩溃（runner 内存 5 分钟后稳定在约 9GB），仍偶有一次无响应丢任务
结论：本地 LLM 在小 GPU 上不稳时，先查是谁在占用系统 RAM，再考虑改模型或量化——VRAM 估算不包含这些。
「编程与Agent」频道最新
- Google ADK 覆盖 Python/Go/TS/Java/Kotlin 五语言统一 Agent 框架 — rseroter · 2026-10-15
- AI agent 修服务器跑偏:报 71>=71 奇怪错误还狂涨 1.4TB 存储 — haydendevs · 2026-10-15
- Invideo 推出 MCP,用 Claude 或 ChatGPT 直接剪辑视频 — azed_ai · 2026-10-15
- 用 OpenClaw 接入 ROS，让 Grok 执行机器人任务 — chrismatthieu · 2026-10-15
- Bug 报告自动修复流水线:Bot 监控 DM 分派 Cursor 修 bug — msfeldstein · 2026-10-15
- Devin 接入 Pylon:客服工单自动修复,新客户送 1.5 万美元额度 — DevinAI · 2026-10-15