内存为何再也不便宜？David Bau：KV cache 抬高每比特 RAM 价值
davidbau · x · 2026-09-23
MIT 教授 David Bau 发帖吐槽买电脑太贵，并提出一个反直觉问题：该等内存降价吗？还是 KV cache 已经把每比特 RAM 的真实价值抬得太高，内存永远不会便宜了？他观察到 in-context learning 的扩展性远超所有人预期，半开玩笑地说也许「起飞」（takeoff）会发生在 $/bit——即内存单价这个维度上。
「Infra」频道最新
- Grok 解析 DeepSeek 训练:为何用 DualPipe+ZeRO-1 而非 ZeRO-3 — TheZachMueller · 2026-09-23
- Epoch AI:同等性能 AI 成本每季降 47%,降价速度史无前例 — daveholtz · 2026-09-23
- M5 Ultra 本地跑大模型实测:预填充快 4 倍,但功耗翻倍 — DigitalguyCH · 2026-09-23
- $500 收 7 台 OptiPlex 组建物理机 Agent 集群,无盘 netboot 防翻车 — colinmcnamara · 2026-09-23
- Signal65 实测:AMD MI355X 大上下文下性能达 B200 的 2.25 倍 — ryanshrout · 2026-09-23
- 单码库跨 5 代芯片,2.3B MoE 混合 Mamba 用不到 1% 算力逼近 Llama-3.2-3B — tri_dao · 2026-09-23