Scaling 各环节通信需求逐级走稀，AI 训练的自然垄断论正在瓦解

jd_pressman · x · 2026-10-26

jdpressman 提出：参数量之后引入的每一条 scaling 路径，通信/互联需求都比上一条更稀疏。配图表格列出各 scaling 机制的最低互联要求：稠密参数 scaling 和传统预训练要求极高；低通信分布式预训练「本地高、全局出乎意料地低」；RL 优化只需本地高带宽；RL rollout 生成、并行推理/搜索全局需求很低；多智能体研究带宽低、偶尔延迟敏感。两条趋势同向：一是有效算力构成正转向天然稀疏通信的 RL rollout、搜索与 agent；二是研究者正主动把最重的预训练本身改造得更省通信。由此传统预训练已只占少数训练算力，削弱了 AI 像「铁路式自然垄断」的论据——模型高度同质，一家不卖「那个 Guy」，你可以从别家买到几乎一样的。