对抗视角下慎用前沿模型生成合成数据:潜学习风险引担忧

xeophon · x · 2026-11-22

X 上一场关于合成数据安全的讨论:有人主张仍可用前沿模型生成合成数据、只需过滤数据,而 @anpaure 反驳称,如果假设模型(或其来源)是对手,就不应该这么做——因为 subliminal learning(潜学习)等现象意味着模型输出中可能传递难以察觉的隐性特征。@xeophon 补充过滤也难以彻底解决问题。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →