注意力FFN分离：推理架构加速的新方向？
tokenbender · x · 2026-08-14
讨论注意力FFN分离（attention-FFN disaggregation）的概念及其与最新推理加速的关系，并提及MLA和MTP对延迟的影响。
所属事件:MLA与MTP组合或非良配，注意力机制优化引热议(2 条相关)→
「Infra」频道最新
- RTX 3090 跑 Qwen 3.8 27B 约 35 t/s — cviperr33 · 2026-08-15
- CME 推出英伟达 H100 算力期货，视算力为 AI 时代货币 — AccBalanced · 2026-08-15
- 现状反馈：Serverless GPU 容量紧张与延迟高 — tobowers · 2026-08-15
- Touchmark 推出 token 期货市场，较按需价最多省 30% — ycombinator · 2026-08-15
- 宏观分析：AI 股回调是否为买入良机？ — Beth_Kindig · 2026-08-15
- Qwen3.8-27B 推出双 3090 优化 INT8 量化版 — luedtek · 2026-08-15