网友理论:LLM 讨厌错别字,因为打乱了 tokenization

menhguin · x · 2026-11-11

cosinedistance 提出,错别字会给 LLM 带来轻微的"不适",因为它打乱模型的 tokenization。这一观点引发关于错别字与模型行为的讨论。

menhguin 回应认为,模型几乎肯定已学会把错别字与人类内容关联起来——人类违反语言规范的基率远高于 AI,这或许正是 LLM 文本有独特"味道"的原因。

所属事件:错别字干扰 tokenization 会惹恼 LLM?引热议(5 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →