24GB 显存 llama-server 配置帖
Gold-Drag9242 · reddit · 2026-07-13
这是一个面向 24GB 显存显卡用户的 `llama-server` 配置交流帖，目标是分享“实测可用”的启动参数。 帖子明确了讨论对象是 RTX 3090、7900 XTX、RTX 4090 这类 24GB GPU，并要求配置尽量吃满显存、同时提供至少 20 万 token 的 KV cache。发帖人还要求大家把系统内存大小、操作系统和 CPU 一并贴出，因为这些条件会影响缓存表现和配置是否可行。