判断模型是否死记数据：删掉数据看向量空间能否找回
sytelus · x · 2026-10-23
sytelus 提出一个无需泄露答案的测试思路：从训练数据中挑选一批你觉得极具创造性和独特性的样本删掉，重建向量空间，然后看模型能否在这些空间中定位刚被删除的点——以此检验模型是真正泛化还是记住了数据。作者称这是为了让一个关于模型创造力的问题保持讨论趣味。
所属事件:开发者提出检验模型是否死记训练数据的新思路(2 条相关)→
「模型」频道最新
- Gemini 4 Argon 曝光：Agent 模式自动测试 App,还「统治幽默基准」 — andrew_n_carr · 2026-10-23
- Gemini 4 拒答明显更宽松，敏感度低于多数模型 — haider1 · 2026-10-23
- SemiAnalysis 算账：OpenAI 200 美元订阅每美元 token 腰斩，Anthropic 值 5 倍以上 — RexDouglass · 2026-10-23
- 谷歌云发布 PLE 基准:物理工程考题全部前沿模型得分不足 50% — Afinetheorem · 2026-10-23
- LLM 版权护栏现漏洞：拒绝抓取网页全书，却肯打包 ZIP 下载 — burkov · 2026-10-23
- 港科大溯源发现:「Wait」标记继承自训练数据而非 RL 发明 — huawei-noah · 2026-10-23