新手求助:24G显存笔记本首次跑本地大模型玩什么
ThomasAger · reddit · 2026-07-16
一位开发者刚入手了一台带有 24GB 显存的笔记本(并配有 32GB 内存),希望首次尝试在本地运行大语言模型(LLM)。 他预计该配置可以胜任 30B 甚至 70B 级别的模型,因此向社区寻求推荐:应该优先尝试哪些模型?有哪些进阶的提示词工程技巧和复杂玩法?
ThomasAger · reddit · 2026-07-16
一位开发者刚入手了一台带有 24GB 显存的笔记本(并配有 32GB 内存),希望首次尝试在本地运行大语言模型(LLM)。 他预计该配置可以胜任 30B 甚至 70B 级别的模型,因此向社区寻求推荐:应该优先尝试哪些模型?有哪些进阶的提示词工程技巧和复杂玩法?