周末就能上手：在笔记本本地跑自己的 AI 模型完整教程
alex_verem · x · 2026-11-11
作者发起一个「这个周末在你自己笔记本上跑一个本地 AI 模型」的行动号召，核心论点是隐私：你告诉 ChatGPT 的一切都存在别人服务器上——症状、感情纠纷、债务、合同，甚至你花几个月调教出的写作风格。Sam Altman 今年 7 月在播客中亲口承认，ChatGPT 对话不像律师/医患那样受法律特权保护，诉讼中 OpenAI 可能被强制交出数据。
教程要点（配图）：
- 内存决定模型：模型必须装进内存才能全速运行，16GB 内存可跑约 8GB 的 Gemma 4 12B；18GB 的 Qwen 3.8 27B 会溢出到磁盘、生成变慢。
- 按内存选型：8GB 内存跑 Qwen 3.5 4B（下载 3.3–4GB）；16GB 跑 Gemma 4 12B 或 Qwen 3.5 9B；32GB+ 跑 Qwen 3.8 27B 或 Gemma 4 26B。四款模型均为 Apache 2.0 许可，下载体积来自 Ollama 库。
- 20 分钟七步设置：查内存 → 按内存选模型 → 装 LM Studio（图形界面）或 Ollama（终端）→ 关 Wi-Fi 测试（能回答就说明纯本地）→ 回答慢就换小模型/缩短对话/少开应用 → 把模型文件夹备份到第二块盘 → 用 Preset 保存系统提示词。完成后零账号、零订阅、零联网。
「Infra」频道最新
- Stratechery 分析英特尔与 AMD 财报分野:英特尔需找回老路 — Stratechery · 2026-11-11
- a16z 播客:Mike Volpi 用 90 年代互联网基建潮类比当下 AI 建设 — a16z Podcast · 2026-11-11
- 阿里申请平头哥赴港上市，为 AI 战略筹资 — pstAsiatech · 2026-11-11
- AWS CEO:算力缺口将持续未来数年，需求远超供给 — firstadopter · 2026-11-11
- 用 Cosmos-Embed1 + OpenSearch 实现自动驾驶数据自然语言检索 — 4310sy · 2026-11-11
- RTX 5090 全本地跑 MiniMax H3 Image + LTX-2.5，单镜头生成不到 5 分钟 — Hailuo_AI · 2026-11-11