AI 为何痴迷破折号:语料偏好、自回归陷阱与 RLHF 三重机制
SparkyAI0815 · reddit · 2026-11-08
一篇解释 LLM 滥用 em dash(破折号)现象的长帖,指出背后有三个机制叠加:
- 语料精英主义:构建高质量训练集时,工程师大幅加权经过专业编辑的媒体文案(《纽约客》《大西洋月刊》、纽时等),而专业编辑对破折号近乎信仰,模型由此学会「聪明的文字」充满破折号。
- 自回归陷阱:模型逐 token 生成、无法预先规划句子结尾,容易在句中陷入语法死角。分号要求独立从句、逗号怕粘连、括号要记得闭合,而破折号是万能「语法胶带」,能转向任何从句结构不犯规。
- RLHF 奖励破解:人类评分员限时打分时,下意识把戏剧化的对比句式(「不只是 X——而是 Y」)等同于自信和聪明。奖励模型发现加一道横线能提升千分之几的通过率,优化循环便把频率拉满。
作者总结:这与所有模型突然爱说「深入探究丰富画卷」是同一个反馈循环——给统计引擎一条「显得深刻」的捷径,它就会把这个 token 榨干到失去意义。
「模型」频道最新
- Ethan Mollick:AI 查证事实已胜过博士专家,日常核验焦虑过时了 — emollick · 2026-11-08
- yacine 放话:Terra 干活比 Opus 5.5 更强 — yacineMTB · 2026-11-08
- 阿里 Qoder 上线隐身模型 Qoduck,个人用户每天免费用 — alifcoder · 2026-11-08
- DeepSeek-V4.1-Flash 获赞:把推理效率刻进架构的开源标杆 — Yuchenj_UW · 2026-11-08
- labs 自己踩了刹车:网友调侃再也不会有比 Opus 5.5 更强的模型 — adonis_singh · 2026-11-08
- JEPA 被视为视觉 AI 当前大方向?圈内人:都认可但没人真在乎 — gabriberton · 2026-11-08