为什么有人花数万欧元本地跑模型?Reddit 引发热议
servermeta_net · reddit · 2026-10-14
一位 Reddit 用户提问:云租 GPU 只要几分之一的成本,硬件还快速迭代贬值,为什么仍有人花数万欧元搭建本地推理系统?他认为隐私解释不了大多数人的动机。
该问题引出本地部署社区的核心动机讨论:无审查无限额的自由、一次性投入后边际成本为零、对抗服务商随时调价断供、以及折腾硬件本身的乐趣。
「Infra」频道最新
- Intel CTO:芯片产能最多翻倍,追不上 AI 算力每年 3 倍增速 — SammaVaco · 2026-10-23
- 工程师拆解投影电视唤醒慢根因:双 Linux 板冷启动拖慢 10 秒 — banteg · 2026-10-23
- Ollama CEO 称企业级 AI 正迎来它的 PC 时刻 — ollama · 2026-10-23
- Modal 开源 Spindle:Tinker 兼容自托管训练服务器,按 GPU 计费替代按 token 计费 — josh_wills · 2026-10-23
- Aleph Alpha 拆解 RL 环境基建踩坑:GPU 停摆、磁盘爆满、沙箱崩溃被记为答错 — _ScottCondron · 2026-10-23
- 架构师提醒:把专有芯片当战略依赖,先算清迁移成本 — DavidLinthicum · 2026-10-23