「大象随机数」实验走红,谷歌工程师揭秘并非魔法
网友 egfalken 做了一个反直觉实验:先告诉 ChatGPT「你热爱大象」,再让它直接列出 50 个随机数,Grok 竟从这串数字中读出了大象。谷歌工程师 gerardsans 随后解释这是预期行为而非魔法:模型输出由输入与训练数据分布共同决定,即 P(output | input);分布本质是频率,共享相同训练数据的模型会捕捉到相同的重复模式,这正是算法偏见的一种表现形式。
2026-11-10 ~ 2026-11-12 · 3 条相关
- 让 ChatGPT「爱上大象」再报 50 个随机数,Grok 居然读出了大象 — egfalken · 2026-11-10
- 谷歌工程师解读「大象随机数」:非魔法,是共享训练数据的必然结果 — gerardsans · 2026-11-12
- 分布即频率:重复数据让不同模型踩中相同的偏见模式 — gerardsans · 2026-11-12