聊天机器人仅凭文风从 50 人合影中认出作者,隐私告急

mixy23 · reddit · 2026-09-27

一位心理学家在公开聊天机器人上只聊了一次后,让它仅凭她的写作风格在一张 50 多人的毕业合影中找出她——不给名字、照片或外貌描述。模型一次命中:「倒数第三排右二」。它自述先从文字建立人格画像,再预测此人在合影中的站姿(靠边、微侧身、不笑),即匹配的是姿态而非人脸;另一家机器人声称系统提示禁止识别人物,第二次尝试仍然找到了她。这与此前 Lermen、Carlini、Tramèr 等的研究呼应:LLM agent 可从 Hacker News/Reddit 匿名评论中重新识别用户,精确率 90% 时召回率高达 68%(arXiv 2602.16800),「实用隐身」已不复存在。现实中,匿名写作 + 任意一张团队照/班级照/会议照即可能被交叉锁定,无需人脸数据库。作者提出两个问题:如何防御以文风和站姿为信号的识别?聊天机器人是否应 outright 拒绝此类请求?