朗文用2000基础词解释23万词，7B模型够用了？

burkov · x · 2026-09-22

Burkov 提出一个类比：《朗文当代英语词典》用仅 2000 个最常见词作释义词表，解释了英语中约 23 万个复杂词汇（如 predilection、photosynthesis、melancholy）。这 2000 个核心词虽然互相循环定义，但它们足够基础，任何读者都已理解。

由此他推断：只要训练数据与架构得当，一个只学会理解这 2000 个基础词及其组合出新语义方式的 7B 量级模型，原则上就足以完成任何能用语言描述的任务——因为一切可描述的任务都可以还原为少量基础词义的组合。