6 个开源本地 AI 工具盘点：Mac 8GB 内存也能离线跑模型
alex_verem · x · 2026-11-01
作者 alexverem 发起一条本地 AI 工具长推，主张不必为云端 AI 付费——上一季度 PC 出货量下滑 20%、内存成本持续上涨，继续用现有电脑跑开源工具即可。推文列出 6 个免云端的开源本地 AI 工具：Jan（离线对话，8GB 内存可跑 3B 模型、16GB 跑 7B）、AnythingLLM（本地文档问答）、Buzz（离线转录）、Upscayl（免费图片超分）、exo（多设备组网跑大模型）等，并附各项目 GitHub 链接。
所属事件:开发者盘点 6 款开源本地 AI 工具，旧电脑离线跑模型(3 条相关)→
「Infra」频道最新
- AI 泡沫破裂蔓延:中国股市蒸发 23.5 万亿,纳指单日跌 3.46% — Grady_Booch · 2026-11-01
- Strata 引擎实测翻车:2×R9700 上不敌 llama.cpp,质疑定制引擎炒作 — Don_Reuter · 2026-11-01
- exo 把多台 Mac 组成 AI 集群，48.1k star 可跑单机放不下的大模型 — alex_verem · 2026-11-01
- vLLM 支持 Engram 条件记忆，51B 参数查找表无需常驻显存 — solyarisoftware · 2026-11-01
- 印度办两周芯片制造训练营：包食宿机票速成半导体工程师 — arpitingle · 2026-11-01
- 软银部署600+台Starlink,日本11月2日成立国家防灾厅 — XFreeze · 2026-11-01