研究者:模型记忆化未必是坏事,或可用 Jacobian 法验证推理能力

proteinrosh · x · 2026-11-18

proteinrosh 提出一个反直觉观点:如果结构预测不是目标,记忆化未必是坏事——语言与推理能力可以从表征中以完全不同的方式提取信息,因此模型记住大量序列并不天然有害。

他还提出一个验证思路:虽然成本高昂,但可以借用 @sokrypton 的 Jacobian 方法来估计 Claude 对突变效应的响应,从而判断模型是否真正理解了长程接触(long range contacts)关系。

所属事件:研究者让 Claude Fable 仅凭序列预测蛋白接触图(12 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →