模型会解释自己的电路？研究者：这更可能暴露训练数据构成
yoavgo · x · 2026-11-03
Yoav Goldberg 回应「这类训练数据长什么样」：像其他可验证任务一样构造——「给定一个网络，从 4 个选项中解释它在做什么」「写一个能完成下列操作的电路」等，答案可自动验证。
所属事件:研究者质疑 Astra 权重编辑实验：或只是训练数据暴露(5 条相关)→
「研究」频道最新
- LocalFold 更新:浏览器内直接跑蛋白质结构预测,支持 BioEmu2 等新模型 — CatAstro_Piyush · 2026-11-03
- kalomaze 猜想：深度序列模型可模拟低秩注意力 LoRA 训练行为 — kalomaze · 2026-11-03
- Zyphra 提出树形索引稀疏注意力 ZHA, attention 复杂度降至亚二次 — yacineMTB · 2026-11-03
- kalomaze：上下文学习只是 NTP 副产物，尚无人刻意蒸馏训练步 — kalomaze · 2026-11-03
- RSNA 2026 深度学习实验室:手把手微调医学影像 VLM 全流程 — PRouzrokh · 2026-11-03
- RSNA 2026 深度学习实验室:手把手微调医学影像 VLM 全流程 — PRouzrokh · 2026-11-03