三星展示LPDDR5X-PIM：内存带宽飙至614GB/s
jedisct1 · x · 2026-08-29
三星在 Hot Chips 2026 上介绍了其处理内存（PIM）技术。该技术在 LPDDR5X 内存芯片内部直接集成 MAC 运算单元，利用内存内部高带宽进行计算，规避 DRAM 与计算核心间的长延迟路径。
核心参数：
- 内部带宽： 通过16个内存 bank 并行访问，内部带宽达 614 GB/s。
- 外部对比： 标准 DRAM 访问受限于外部接口，仅能并行访问两个 bank，带宽上限为 76.8 GB/s。
- 架构： 每个 bank 配备一个 PIM 模块，包含 MAC 树、指令寄存器和源寄存器。软件负责将模型权重加载至 DRAM。
「Infra」频道最新
- 开源推理引擎 Magnitude 让本地模型比 Ollama 快 2 倍以上 — nickbaumann_ · 2026-10-15
- 传 Nvidia 本周宣布数百亿美元欧洲 AI 投资 — georgemillo · 2026-10-15
- Cloudflare 一夜 $10,811 账单：退款靠运气，刹车得自己装 — sujingshen · 2026-10-15
- 阿姆斯特丹大学新方法:Transformer 免再训练变身弹性模型 — VISLab-Amsterdam · 2026-10-15
- vLLM MTP3 验证:AIME25 提至 0.9667,prefill kernel 延迟最高降 84% — vllm_project · 2026-10-15
- 26ms 决策模型 s1-llm-auto-router 开源，为请求自动选 LLM — airesearch12 · 2026-10-15