DeepMind 论文：LLM 无法自行随机采样，需外部传入随机数

rohanpaul_ai · x · 2026-10-27

Google DeepMind 论文《The Illusion of Stochasticity in LLMs》发现，大模型无法真正自主做出随机选择，但在程序先给它一个随机数时可以正确转换。LLM 作为 agent 常需按设定概率随机选择动作（如以不可预测顺序检查服务器），但实验显示它们嘴上说要均匀采样，实际总偏向 7、42 或选项 C。团队让 Gemini、Qwen3、OLMo 等模型对简单分布各采样 1024 次，所有统计检验均未达标，调温度或 top-p 也无效。在一个真随机可让攻击者得手 75% 的安全博弈中，Gemini 的选择让攻击者赢率达 96.6%–99.9%。实用结论：agent 需要随机性时，应在代码中生成后传入，而非让模型自己随机。