小规模 LLM 训练成本上涨 研究者转向本地硬件
lupodevelop · reddit · 2026-07-28
一位 Reddit 用户表示，自己做小规模 LLM 研究时在 RunPod 上成本越来越高：OOM、NCCL 超时和调试反复都在“烧钱”。
他现在在考虑自建或购买本地机器，用于 sub-10B 到 14B 级别模型的训练与微调，并想了解大家常用的本地配置、预算，以及那些紧凑型桌面 AI 机器到底值不值。
「Infra」频道最新
- MinerU 可将 PDF 和 Office 文档转成 LLM 可用 Markdown — lxfater · 2026-07-28
- UNIUBI AI 四足机器人被指完成 720 度后空翻 — Scobleizer · 2026-07-28
- AI 支出担忧拖累三星和海力士下跌超 10% — nordicinst · 2026-07-28
- NVIDIA 以 50 亿美元战略投资 Ilya Sutskever 的 SSI — loopuleasa · 2026-07-28
- Sentinel 用预注册前向实验测试机器读新闻能否预测市场 — IPSUM99 · 2026-07-28
- 不可信 AI 代码沙箱几乎全守住了，DNS 却成了外泄通道 — Ok_Beyond_6313 · 2026-07-28