推理算力瓶颈的两条路
AravSrinivas · x · 2026-07-14
作者认为,想突破数据中心推理的电力瓶颈,现实可行的路径大致有两条: 1. 让本地模型承担大部分 token 流转,由更小、更分散的模型协作完成推理; 2. 走更激进的方向,把太阳能数据中心放到太空里。
AravSrinivas · x · 2026-07-14
作者认为,想突破数据中心推理的电力瓶颈,现实可行的路径大致有两条: 1. 让本地模型承担大部分 token 流转,由更小、更分散的模型协作完成推理; 2. 走更激进的方向,把太阳能数据中心放到太空里。