定制 HBM 可将 LLM 推理速度提升 5 倍
BenBajarin · x · 2026-09-01
SK Hynix (SKHY) 声称其定制高带宽内存 (HBM) 可将 LLM 推理性能提升高达 5.15 倍。此外，该公司正在探索“计算型 DRAM” (Compute-using DRAM)，允许 DRAM 芯片直接在内存内部执行特定计算，从而减少数据在内存与处理器之间往返移动的需求，进一步提升效率。
「Infra」频道最新
- AI 推理优化厂商 Wafer AI 获 4000 万美元 A 轮融资 — ycombinator · 2026-09-02
- David Manheim 算账：Hugging Face 袭击成本并非高不可攀 — davidmanheim · 2026-09-02
- RX 9070 XT 上 ComfyUI 突然变慢 3-5 倍，疑为 ROCm 驱动驱逐显存 — bosox62 · 2026-09-02
- Token 翻倍速度是 AI 的摩尔定律,作者估算 1-2 年内触及 GDP 1% — robleclerc · 2026-09-02
- Sharon Zhou：FLOPs 相对显存变便宜，算法将转向以算力换显存 — realSharonZhou · 2026-09-02
- Fleet 浏览器内 GPU 基准上线，开源数百个 WebGPU 内核 — xenovatech · 2026-09-02