开发者批评:用预训练模型做问卷调查等于闭眼赌数据

gerardsans · x · 2026-10-26

开发者 Gerard Sans 发推批评用前沿 AI 模型做调查(survey)类研究的做法:模型训练数据来自本就质量不高的互联网,还混杂小说、电影、营销文案,并向商业动机强的技术材料(代码、数学、论文)严重倾斜。把这种数据当调查样本,不仅 misguided,而且危险——数据类型不对、污染严重、引入未知变量,让可靠的预测或调查无从谈起。他将其比作"闭着眼睛玩数据轮盘",把文本流畅性误当科学效度。

在回复中他进一步主张:AI 素养很重要,研究应停止随意的拟人化;AI 是文本采样器而非人,没有心理学,其"偏见"只是数据压缩的伪影——就像压缩你的收件箱并不能得到你的心理模型。