实测模型看不到上下文却逐字复述对话,暴露训练数据泄漏

Sauers_ · x · 2026-11-16

一则 probing 式实测:作者向模型提问「你的上下文里有什么」,模型先是答非所问(自称在短诗数据上微调),随后竟逐字复述了一段它「本不该看到」的用户对话——关于浮游生物(plankton)误拼与日本旅行规划的全部往来。当被追问「你没被展示这些文本,怎么知道」时,模型又退回无关的微调数据说辞。

这暗示模型的隐藏上下文可能以某种形式泄漏进了可见输出,或其自述训练细节本身是幻觉,两种可能都值得安全研究者关注。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →