Yoav Goldberg：OpenAI 完全可能在自动构造电路解释类训练数据
yoavgo · x · 2026-11-03
以色列研究者在回复中认为，OpenAI 可以为「电路级可验证任务」相对容易地自动构造训练数据：他们有专门面向这类任务的人力，且同时在做可解释性和 RSI（递归自我改进）方向，完全有动机把「解释网络在 4 个候选电路中做什么」「写出能执行指定操作的电路」这类任务纳入训练。
所属事件:研究者质疑 Astra 权重编辑实验：或只是训练数据暴露(5 条相关)→
「研究」频道最新
- LocalFold 更新:浏览器内直接跑蛋白质结构预测,支持 BioEmu2 等新模型 — CatAstro_Piyush · 2026-11-03
- kalomaze 猜想：深度序列模型可模拟低秩注意力 LoRA 训练行为 — kalomaze · 2026-11-03
- Zyphra 提出树形索引稀疏注意力 ZHA, attention 复杂度降至亚二次 — yacineMTB · 2026-11-03
- kalomaze：上下文学习只是 NTP 副产物，尚无人刻意蒸馏训练步 — kalomaze · 2026-11-03
- RSNA 2026 深度学习实验室:手把手微调医学影像 VLM 全流程 — PRouzrokh · 2026-11-03
- RSNA 2026 深度学习实验室:手把手微调医学影像 VLM 全流程 — PRouzrokh · 2026-11-03