AI 推理能耗的物理极限在哪里？热力学原理解析

prateekj · x · 2026-08-14

推文探讨了生成单个 Token 所需能量的理论物理下限。根据兰道尔原理，在室温下擦除一个经典比特至少需要消耗 2.9 x 10^-21 焦耳的能量，且这一热力学极限已被实验证实。

然而，这并不能代表 AI 模型推理的实际最低能耗。因为在真实世界中，生成一个 Token 不仅需要编码信息，还涉及状态存储、信号传输、噪声抑制、纠错和组件同步等大量额外开销。目前的计算机在实际运行时，其能耗远高于兰道尔极限。