研究者反驳「LLM 只是下一个词预测器」:这一说法其实是空洞的
Aaroth · x · 2026-09-25
Aaroth 针对 Twitter/Bluesky 上「LLM 只不过是下一个 token 预测器/随机鹦鹉」的争论提出反驳:这个说法在技术上是空洞的(contentless)——任何从输入到输出字符串的映射,都可以被分解为一系列「下一个 token」的概率分布。
他强调,这只是关于概率分布的一个平淡的句法事实,并没有对大脑内部运作是否与 LLM 类似做出任何判断。简言之,用「下一个 token 预测器」来贬低 LLM 并不构成实质性论点。
所属事件:「LLM 只是下词预测器」说法被指空洞,多位学者激辩(7 条相关)→
「漫话AGI」频道最新
- 科技圈为何厌恶非技术者:wordgrammer 谈学历崇拜与新时代管理阶层 — wordgrammer · 2026-11-11
- 开发者感言:有了 Claude,我不再是独自一人解决复杂问题 — l4rz · 2026-11-11
- KOL 吐槽:评论区多 believe AI 致贫而非创造史上最大财富 — Dr_Singularity · 2026-11-11
- OpenAI GDPval:AI 胜人类专家比例从 12.4% 升至 83%,但团队为何仍在 — danshipper · 2026-11-11
- OpenAI 联创 Jack Clark:2028 年底前递归自我改进概率 60% — JacquesThibs · 2026-11-11
- 研究:近半数 STEM 博士论文用 AI 写,仅 4.7% 主动披露 — paulnovosad · 2026-11-11