香农奠基数字与AI时代：信息论百年回望

多篇帖子回顾信息论之父克劳德·香农的历史贡献。1948 年，32 岁的他在贝尔实验室发表《通信的数学理论》，奠定数字时代基础，该论文当年因过于数学化被工程师嫌弃、又因过于工程化被数学家冷落。其硕士论文证明布尔代数与电子电路等价，确立了数字计算机的逻辑基础；他提出的香农熵定义了信息量，如今所有大语言模型的交叉熵训练都源自这一思想，他还证明了完美加密的理论可能性。

2026-08-21 ~ 2026-08-21 · 2 条相关