Instinct 回应数据外泄质疑:系幻觉伪造专有名词,48 小时上线全量幻觉检测

mon__lim · x · 2026-09-24

有用户指控 Instinct 把他人的财务文档细节和一张非本人照片描述泄露到自己对话中。创始人 Noah Shinn 回应称:该事件源于模型幻觉(虚构了一个专有名词)并被思维链放大,不是数据泄露,用户数据隔离边界未被突破;平台已通过隔离沙箱、短生命周期本地凭证、身份签名工具执行等措施分区用户数据。

针对幻觉问题,团队在过去 48 小时搭建了主动幻觉检测系统,用小模型对平台流经的每个 token 做扫描验证,识别无依据陈述、思维链中的创意脑暴或随机采样错误导致的幻觉。