Instinct 回应数据泄露质疑:称系幻觉而非数据隔离失效
mon__lim · x · 2026-09-24
用户 @prit4k 指控 AI 助手平台 Instinct 在对话中描述了不属于自己的财务文档，还提到一张用户并未发送过的照片，质疑发生了真实数据泄露。
Instinct 创始人 @noahrshinn 回应称：这是模型幻觉(编造了一个专有名词)并被思维链放大所致，并非数据泄露，用户数据隔离边界未被破坏；平台通过隔离沙箱、短时本地凭证、身份签名工具执行等机制做数据分区。
公司还表示，事件后 48 小时内上线了一套主动幻觉检测系统，用小模型逐 token 扫描验证无根据断言、思维链中的创造性发挥或罕见采样错误。
所属事件:Instinct 回应数据泄露质疑：称系模型幻觉所致(2 条相关)→
「模型」频道最新
- 用户实测：OpenAI Neon 连接器语音可用但项目操作失败 — koltregaskes · 2026-09-24
- CAIS 评测上线:Astra 与 Grok 4.7 在准确率和 token 用量两端背反 — polynoamial · 2026-09-24
- 「GPT-6 Luna」疑现性能退化:n=3 时 18.3 分,仅略胜本地 Qwen3.8 — PawelHuryn · 2026-09-24
- Meta Muse 实测:语音模式演示,Computer Use 今日推送桌面端 — testingcatalog · 2026-09-24
- Meta 首席 AI 官 Alexandr Wang 预告：史上最强模型即将发布 — scaling01 · 2026-09-24
- Meta Connect 现场爆料:Muse Mac 应用将支持 Computer Use — kimmonismus · 2026-09-24