LaurieWired 开源 TailSlayer:跨 DRAM 通道对冲读,削减内存尾延迟
lauriewired · x · 2026-10-02
知名安全研究员 LaurieWired 开源了 TailSlayer——一个降低 DRAM 刷新导致的内存读尾延迟的 C++ 库(已有 2.8k star)。核心思路:
- 利用(未公开文档的)channel scrambling 偏移,在 AMD、Intel、Graviton 平台上将数据复制到多个刷新调度互不相关的独立 DRAM 通道
- 请求到来时向所有副本发起对冲读(hedged read),取最快返回的结果
用法:把 include/tailslayer 拷进项目并 #include <tailslayer/hedgedreader.hpp> 即可,目前支持双通道,N 路用法见 benchmark 代码。灵感来自一篇近 30 年前的论文,作者还配了讲解视频。
「Infra」频道最新
- Domingos 力挺数据中心:与居民同价付费,反能拉低电价 — pmddomingos · 2026-10-02
- PyTorch 推出 TorchTPU,vLLM 和 SGLang 可原生跑在 TPU 上 — PyTorch · 2026-10-02
- 马斯克：SpaceX 版 VR72 有望跑出近 250kW 平均功率 — McDonaghMatthew · 2026-10-02
- 实测：DDR5/PCIe5 训练快 15-20%，但性价比反而输给 DDR4 — Any-Winter-4079 · 2026-10-02
- Modal 云集群正式 GA,一条 rdma=True 开启 RDMA 高速互联 — josh_wills · 2026-10-02
- Creative Strategies:看内存别再赌价格周期,要押注比特需求 — BenBajarin · 2026-10-02