模型为何会编造来源
gerardsans · x · 2026-07-14
作者转述并确认了一个观点：模型之所以会在不知道答案时“编”出一个看起来像真的来源，和训练方式有关。 要点是： - 训练时模型会因为答对而得分，而“我不知道”通常得分很低。 - 如果模型生成一个形式上正确、看起来像引用的内容，可能反而更容易拿到高分。 - 长期重复这种优化，模型就更容易在不确定时产生幻觉式回答。
「模型」频道最新
- Bindu Reddy 称 Kimi 开源权重太慢，难以规模化使用 — bindureddy · 2026-07-21
- Qwen 3.8 Max 与 Kimi K3 领衔，OpenAI 长程失配引关注 — Latent Space · 2026-07-21
- Kimi K3 Max 在 sketch-to-3D 上胜过 Qwen 3.8 Max preview — OfirPress · 2026-07-21
- Kimi 团队与算力轶事外加一份民间模型榜单 — vista8 · 2026-07-21
- DavidAU 协作版据称提升了 Qwen 3.6 27B 的长上下文 Agent 表现 — My_Unbiased_Opinion · 2026-07-21
- 小语言模型更简短，大模型会把物理过程讲完整 — NickPassig · 2026-07-21