开发者批安全社区用「心智与情绪」叙事描述 Transformer,是误读不是警告

gerardsans · x · 2026-09-14

开发者 gerardsans 发推批评 AI 安全与对齐社区的话语方式:认为「心智」「情绪」等拟人化叙事已取代技术准确性。他强调 Transformer 没有 forward pass 之外的「心智」,只是对冻结语料分布的采样;所谓模型「情绪」只是 Anthropic 研究人员贴上的有争议标签。他认为用隐喻无妨,但不能用它固化误解、散播恐惧——公众读不懂安全警告,恰恰因为警告建立在错误概念之上。这是一条有观点的行业争论,可作对齐话语之争的一个样本。