拆解 Philox:PyTorch GPU 并行随机数生成之道

两篇技术长文聚焦 PyTorch 中一次 torch.randn() 背后的并行随机数生成机制。Abhinav Upadhyay 深入拆解 Philox 算法的实现细节,另一篇则从 Marsaglia 2003 年提出的 xorshift 出发,解释 CPU 上经典方案在 GPU 上不适用的原因,说明 Philox 为何成为并行训练中的随机数生成标配。

2026-09-25 ~ 2026-09-25 · 2 条相关