投资人谈 AFFN 分离：推理网络的「圣杯」难题

GavinSBaker · x · 2026-08-24

投资人 Gavin Baker 回应称，AFFN 分离(把注意力、FFN 等推理环节拆到不同硬件/节点处理)是「圣杯」级的架构，但也是极其困难的网络问题。

他所回应的帖子描述了新的「帕累托最优」推理调度：Agent 的 CPU 控制与工具调用调度，加上 GPU Prefill(KV Cache)、以及 ASIC 做 FFN 解码(如 Cerebras)。该帖并称 AWS 在技术上已为这个新时代做好准备，其他超大规模云厂商落后，而当前没有任何 NeoCloud 或推理领头羊接近这一水平。