论文提出嵌套并行冯诺依曼架构:百万处理器仍是单一计算机
bronzeagepapi · x · 2026-10-10
arXiv 论文《Many Processors, Still One Computer》由 Heng Liao 提出,核心论点是:大规模 AI 算力竞赛的焦点已不是单个处理器多强,而是百万个处理器能否仍表现得像一台计算机。论文给出两项扩展:
- 嵌套 BSP 模型:经典 BSP 递归嵌套,每个 superstep 由并行计算、交换聚合、barrier 组成,每一层参与者对等,作为全尺度通用的执行计划。
- 嵌套并行冯诺依曼架构(Nested Parallel von Neumann Architecture):打破主从式习惯,从芯片封装到自治区构成层对等的嵌套,由内存语义互连 Unified Bus 端到端连接,软件嵌套与硬件嵌套逐层对应。
论文还提出在每层折叠时间的 τ Scaling law,分析该结构适用的负载——以 AI 训练为首,兼及大量经典 HPC——并描述使嵌套物理成立的硬件设计决策。
「Infra」频道最新
- Basalt 推理引擎:5090 上跑出 665 tok/s,达 Strata 2.6 倍 — jesdga95 · 2026-10-10
- Supabase 网站访问量连续 12 个月超 Vercel,AI 开发层一年翻倍 — FinanceYF5 · 2026-10-10
- Google AI Pro 订阅捆绑 Colab 权益:80GB A100 可全参微调 Gemma 31B — algo_diver · 2026-10-10
- 被 Musk 骂"邪恶"后,Anthropic 与 SpaceX 算力合同翻倍至 845 亿美元 — Luka77GOATic · 2026-10-10
- 「CUDA 核心」自 Kepler 起就是营销数字?SM 数量才是真实性能指标 — blelbach · 2026-10-10
- 高速立交环岛闲置地或成数据中心选址新思路 — gregmushen · 2026-10-10