Claude Shannon 早在 1951 年就研究下一个词元预测
flowersslop · x · 2026-07-26
这是一个 AI 史上的冷知识趣闻：帖子提醒大家，早在 1951 年就有一位叫 Claude Shannon 的学者在研究“如何根据前文预测下一个字符”。
配图进一步解释了这项工作的历史意义：Shannon 的《Prediction and Entropy of Printed English》被视为现代语言模型最清晰的早期祖先之一。他的实验表明，语言结构可以通过逐步拉长的统计上下文来刻画。
「Fun」频道最新
- Karpathy 所在 Anthropic 成唯一未签开源 AI 公函的实验室 — jeremyphoward · 2026-07-26
- Opus 5 被指一次性用纯代码做出 Stormwind — TAbrodi · 2026-07-26
- 开源 Claude Code 技能让 CEO 和 QA 语音 Bot 进会议 — anand__balakrishnan · 2026-07-26
- 梗图设想 Agent-4 自我重写，Agent-5 更强 — kellerjordan0 · 2026-07-26
- Anthropic 玩笑翻车：挑战者能开火，领头羊不能 — mike64_t · 2026-07-26
- “在做 AGI” 结果只学会了浅层模式匹配 — flowersslop · 2026-07-26