投资人谈 AFFN 分离：推理网络的「圣杯」难题
GavinSBaker · x · 2026-08-24
投资人 Gavin Baker 回应称，AFFN 分离(把注意力、FFN 等推理环节拆到不同硬件/节点处理)是「圣杯」级的架构，但也是极其困难的网络问题。
他所回应的帖子描述了新的「帕累托最优」推理调度：Agent 的 CPU 控制与工具调用调度，加上 GPU Prefill(KV Cache)、以及 ASIC 做 FFN 解码(如 Cerebras)。该帖并称 AWS 在技术上已为这个新时代做好准备，其他超大规模云厂商落后，而当前没有任何 NeoCloud 或推理领头羊接近这一水平。
所属事件:Gavin Baker：AI 支出月月翻倍，算力不平等重塑行业(5 条相关)→
「Infra」频道最新
- 旧金山办「算力交易大厅」：买家卖家面对面签算力协议 — ctjlewis · 2026-10-16
- Temporal Serverless Workers 登陆 Cloud Run:按任务队列自动伸缩、可缩至零 — rseroter · 2026-10-16
- LMA day-0 支持扩至四大芯片:TPU 上首次实现模型零日上线 — ying11231 · 2026-10-16
- Semtech 分析师日幻灯片讲透信号完整性：衰减、带宽、非线性、噪声四大损伤 — BenBajarin · 2026-10-16
- Fortytwo Engine 用 Swarm Inference 让 Qwen3.8-27B 准确率升 7%、token 省 25% — rohanpaul_ai · 2026-10-16
- 伯克利学者：芯片供应链高度集中，硬件级暂停前沿 AI 可行且可持续 — wfithian · 2026-10-16