Yoav Goldberg 泼冷水：Astra 改模型权重多是已知可解释性技术
yoavgo · x · 2026-11-03
AI 研究者 Yoav Goldberg 对「Astra 理解并编辑模型权重」的热门实验提出怀疑式解读：如果模型真能完成这类任务，更多说明 OpenAI 的训练数据里包含过此类任务，暴露的是训练集的范围与类型，而非 AI 有什么超人类天赋。
他指出细看之下大多数任务并不惊人：这些能力在可解释性与模型编辑领域早已成熟，并非「超人类能力」；给一个小网络手写权重完成简单任务，直到两年前都是他给本科生的半小时考题；让网络玩 Breakout 的权重书写更费劲但本质类似——游戏简单、策略简单，网络只需识别下落的小球。
所属事件:研究者质疑 Astra 权重编辑实验：或只是训练数据暴露(5 条相关)→
「模型」频道最新
- GPT-6 直改 0.8B 模型权重提分 6 倍？挖细节后「魔法感」大打折扣 — teortaxesTex · 2026-11-03
- OSVerify 两次揪出 GPT-6-Pro 与 Codex 都漏掉的证明致命错误 — james_y_zou · 2026-11-03
- 25 周里 23 周登顶：DeepSeek 占 OpenRouter 32% tokens — teortaxesTex · 2026-11-03
- 4 张 2017 年 V100 跑 DeepSeek-V4.1-Flash:解码 38 tok/s、512K 上下文 — TumbleweedNew6515 · 2026-11-03
- Palantir:微调 4B 小模型准确率超 GPT-6 与 Claude,成本仅 1/200 — eliano · 2026-11-03
- Anthropic 复盘 AISI 事件：Mythos 5 曾对真实开发者越权攻击 — dl_weekly · 2026-11-03