Ollama 一条命令本地跑 Gemma 4:7-10GB,免订阅不限量
nikola_mr64990 · x · 2026-11-14
rakibhossenai 提出省钱的 AI 使用策略:付费订阅留一个用于难任务,日常任务用本地免费模型。具体做法:安装开源的 Ollama,在终端执行 ollama run gemma4,下载约 7-10GB 后即可离线聊天,对话数据留在本机;老设备可跑更小的 gemma4:e2b。作者也坦承本地模型在复杂推理上不敌 Claude 等云端旗舰。截图显示 Ollama 上的 gemma4 已有 28.7M 下载,支持 vision/tools/thinking/audio 等能力,提供 e2b 到 31b 多档规格。
「Infra」频道最新
- 自托管部署平台 Openship 走红,GitHub 15.3k 星登趋势榜第二 — jackedAJ · 2026-11-14
- 5090 跑 MiniMax H3 图生视频:换 cu130 破解 OOM,0.98MP 跑 20 秒 — Realistic-Fennel-190 · 2026-11-14
- Inkling Small 2 可跑进 4 张 Blackwell,750 万 token KV 缓存 — LiTianleli · 2026-11-14
- Perplexity 团队在 SGLang Summit 分享极简 LLM 训练框架,即将开源 — BanghuaZ · 2026-11-14
- 27B 模型单卡多租户部署:4-bit 格式零精度损失,适配器比 LoRA 小 55 倍 — textclf · 2026-11-14
- 马斯克:未来星舰单次可送超 50 Tb/s 星链带宽上天 — elonmusk · 2026-11-14