Ollama 教你在 16GB 笔记本本地跑私有 AI
minchoi · x · 2026-07-27
这条帖子给出了一套在 16GB 笔记本 上本地运行私有 AI 的实操方案:安装 Ollama 后直接跑 gemma4:e4b,默认下载约 9.6GB,很多 16GB 机器都能带起来;如果太吃内存,可以换更小的 gemma4:e2b。
帖子强调两点:一是模型初次下载后可以 离线运行;二是关闭 Ollama 的云功能后,提示词和回复都留在本机。另外还补充了如何调大上下文、启用本地图像输入,以及通过配置文件强制 local-only 模式。
「Infra」频道最新
- Rat Stack:把应用和云写成一个类型化程序,让 AI agent 可靠地搭建部署 — samgoodwin89 · 2026-09-23
- optimAIzr:本地 CLI 找出 AI 用量浪费,支持 Claude Code 与 Codex 省钱 — stichstichstich · 2026-09-23
- 256GB 内存版 Mac Studio 二手溢价 6000 美元仍一机难求 — GabGarrett · 2026-09-23
- Ben Bajarin 解析 AI 数据中心:CPU 与内存如何限制 GPU 推理服务能力 — BenBajarin · 2026-09-23
- Epoch AI 报告:「思考」的价格正在暴跌,智能成本持续陡降 — Proper_Actuary2907 · 2026-09-23
- 从燃气到吉瓦:Diligence Stack 专家访谈拆解 AI 数据中心供电难题 — BenBajarin · 2026-09-23