斯坦福长文拆解「羊皮纸记忆」测试：轻量追踪模型来源与偷窃

ChrisGPotts · x · 2026-10-23

Christopher Potts 发表博客解读 Kuditipudi, Huang, Zhu et al. (2025) 的模型溯源测试：把 M1 的训练数据顺序与 M2 对这些样本的 logprob 做相关分析，即可判断 M1 是否是 M2 的衍生模型。测试极其轻量：不需要完整训练数据顺序、在 M2 被微调/模型融合等改动后依然有效、可用文本采样估计 logprob 甚至只用 M2 生成的文本，也不需要改动 M1 或其数据。这为追踪模型来源、检测篡改与发现模型偷窃提供了强大工具。Potts 还介绍了其团队最新进展：仅用频率、近因性、难度三个变量即可准确预测逐字记忆(基于 Jing Huang 用 Hubble 模型系列的实验)，回应了「Don't just Fix it in Post」论文提出的公开问题。