担忧云端限流,Reddit 网友自建 1.75TB 本地 AI 保全档案
nfored · reddit · 2026-11-20
受 3D 打印机、无人机等领域监管趋严的启发,一位 Reddit 用户花了几天时间搭建了一个约 1.75TB 的「本地 AI 保存档案」,目标是即使云端服务受限或模型下架,也能在未来多年重建可用的本地 AI 环境。
模型收藏覆盖:
- LLM:Qwen3.6-35B-A3B、Qwen3.8-27B、DeepSeek V4 Flash、Gemma 4 等多个体量的模型
- 编码:Qwen3-Coder 系列、CodeLlama、CodeGemma
- 语音:Whisper、Qwen ASR/TTS、Fish Audio Drama 3、说话人分离与 VAD
- 图像/视频生成:HiDream、Qwen Image Edit、LTX 2.5、Wan 2.2 + RIFE 插帧
- 视觉/OCR/翻译/时序预测:YOLO26、SAM 3、PaddleOCR-VL、NLLB-200、Chronos 2 等
软件侧则归档了 llama.cpp、vLLM、ComfyUI、PyTorch、Transformers 的源码或编译产物,以及 CUDA 12.8–13.5、ROCm 7.x–10.0、Flash Attention、FFmpeg 等关键依赖,甚至包括 Ubuntu 22.04–26.04 安装镜像,并刻意同时保留 NVIDIA 和 AMD 两套硬件支持。
作者强调这不是全离线气隙方案,而是保留「个人可长期拥有和运维」的完整 AI 能力集,并邀请社区讨论哪些模型不可替代、还应保存哪些依赖。
「Infra」频道最新
- AMD 股价一度暴跌 11%:做空机构指控固件流向中国黑名单服务器厂商 — rohanpaul_ai · 2026-11-20
- Rust 推理引擎 LexiEngine 跑 AMD 卡:27B 全 262k 上下文比 llama.cpp 快 47% — W61k3r · 2026-11-20
- Anthropic 需营收增17倍至6020亿美元才比肩科技同行回报 — GaryMarcus · 2026-11-20
- 每任务成本图:Claude Fable 5.2 花 54 美元,OpenAI 只要零头 — haider1 · 2026-11-20
- Basalt 0.5.0 上手腾讯 Hy4 Flash:5090 跑出 172 tok/s、1M 上下文 — jesdga95 · 2026-11-20
- 传 Anthropic 仅用 3 天完成 AMD GPU 迁移,以往需 6-12 个月 — AccBalanced · 2026-11-20