Reddit 热议:千元级本地跑 SOTA 模型的设备是下一个大机会
Robert__Sinclair · reddit · 2026-09-29
Reddit 网友提出类比:今天的 AI 就像 70/80 年代只有大公司买得起的巨型主机,谁能量产 1000 美元以下、能以不错速度运行当前 SOTA 模型的设备,谁就是下一个大公司。
他列出的前置条件包括:更便宜的 RAM、更高效的模型、CPU 架构变革,估计需要约 10 年而非当年的 30 年。目前的 encouraging 信号是花不到 3000 美元就能跑最新的 Qwen 27B,但离普及仍有距离。
「Infra」频道最新
- 全本地训练 0.8B/2B 决策模型,2B 得分 83.1% 追平 Jev — Usual_Maximum7673 · 2026-09-29
- 单卡 DGX Spark 跑 Qwen3.8 Flash 212 tok/s,作者开源完整 vLLM 配方 — DimeRhyme · 2026-09-29
- SemiAnalysis:6000 个数据中心项目仅 3 个受暂停令影响 — MatthewBerman · 2026-09-29
- Cloudflare 生日周开源大礼包:forge、vinext 1.0、Rust Workers 等 8 项更新 — ritakozlov · 2026-09-29
- 谷歌趋势美国区榜首全是怀俄明州?作者疑因数据中心机器流量 — lilyraynyc · 2026-09-29
- Sentdex:本地跑了 40 亿 token,GLM 5.3 Flash 成其最常用本地模型 — Sentdex · 2026-09-29