推理架构转向 BoardFly 拓扑以减少跳数
firstadopter · x · 2026-08-26
硬件架构讨论指出，为优化推理延迟，新设计增加了 SRAM 并将拓扑结构从之前的 3D 环面改为 BoardFly，旨在最小化跳数，回应中提到延迟降低往往伴随着价格的大幅上涨。
所属事件:硬件架构转向 BoardFly 拓扑以降低推理延迟(2 条相关)→
「Infra」频道最新
- 传 OpenAI 正加码自研芯片，代号为 Jalapeno — beffjezos · 2026-08-26
- 爆料:谷歌疑似测试不可插拔水冷 XPO 设计 — jwt0625 · 2026-08-26
- 传 OpenAI 保持芯片团队小规模，利用 AI 进行改进循环 — beffjezos · 2026-08-26
- Groq CTO 谈 NUMA 架构：核心独占 HBM 带来性能与灵活的取舍 — BenBajarin · 2026-08-26
- OpenAI Jalapeno 芯片架构细节：每颗独占 HBM — beffjezos · 2026-08-26
- OpenAI：KV Cache 是 Agent 推理最大瓶颈 — BenBajarin · 2026-08-26