研究者:模型记忆化未必是坏事,或可用 Jacobian 法验证推理能力
proteinrosh · x · 2026-11-18
proteinrosh 提出一个反直觉观点:如果结构预测不是目标,记忆化未必是坏事——语言与推理能力可以从表征中以完全不同的方式提取信息,因此模型记住大量序列并不天然有害。
他还提出一个验证思路:虽然成本高昂,但可以借用 @sokrypton 的 Jacobian 方法来估计 Claude 对突变效应的响应,从而判断模型是否真正理解了长程接触(long range contacts)关系。
所属事件:研究者让 Claude Fable 仅凭序列预测蛋白接触图(12 条相关)→
「研究」频道最新
- 从 1000 步 DDPM 到 1 步生成:一篇扩散模型加速实战教程 — RisingSayak · 2026-11-18
- 14 个 LLM 与 27 名人类打 2038 场辩论,Fable 5.2 雄居榜首 — eliebakouch · 2026-11-18
- 实测 10701 个问题:Google 搜索改写 Gemini 近半品牌推荐 — dejanseo · 2026-11-18
- Ai2 以 OlmoEarth 开放模型支援全球农田边界测绘计划 — allen_ai · 2026-11-18
- Rubin 天文台开放数据申请,业余天文学家可参与 LSST 研究 — mjuric · 2026-11-18
- Boltz:长期目标让科学家在电脑上完成从假说到人体可用分子 — GabriCorso · 2026-11-18