AMD 发布 ROCm 10.1:主打存储到 GPU 数据搬运瓶颈优化
AccBalanced · x · 2026-10-07
AMD 发布 ROCm 10.1,核心主题是打破数据搬运瓶颈:随着模型参数、checkpoint 和 KV cache 增长,存储到 GPU 的数据路径正取代算力成为主要瓶颈。要点:
- Infinity Storage 升级:hipFile 直接在存储与 GPU 间搬运数据
- HIP runtime 增加 NUMA 感知的主机内存分配
- AMD Skills + ROCm CLI:为编码 agent 提供标准化集成,用于本地 AI 部署、ROCm 问题诊断和 LLM 推理优化
- 同时更新编译器、库和 AI 框架,改进虚拟化与编程模型
「Infra」频道最新
- NVIDIA NeMo-DCR:万亿参数 RL 权重同步提速 12-40 倍 — nvidia · 2026-10-07
- jiti-lfe 实现 BEAM 跨主机复制,13 分钟铺满 9 台主机 — arthurcolle · 2026-10-07
- Qwen3.8 Flash Next IQ3_S 量化版实测:基本无损且省内存 — lxfater · 2026-10-07
- 二手 PS5 Pro 卖到 1399 美元,AI 数据中心与玩家抢内存 — aakashgupta · 2026-10-07
- 马斯克放话:Terafab 芯片厂将完全自建自营,TSMC 至多转租一部分 — MickeySteamboat · 2026-10-07
- 用 3.8% 的 GPU 跑出 72% 的智能?Mistral 计算效率引热议 — cyb3rops · 2026-10-07