Yoav Goldberg 泼冷水：Astra"读权重"实验其实是简化版 Breakout
yoavgo · x · 2026-11-04
学者 Yoav Goldberg 转发了 Shauli Ravfogel 解释 Astra 如何"读取神经网络权重"的长线程，并补充一个重要降温：他原本以为实验是在带图像输入的完整 Breakout 游戏上用 CNN 做的，实际上只是一个 10×10 的简化版本，去掉了主要复杂度，"这确实没那么令人印象深刻了"。
背景：深度网络权重通常不可解读，唯一例外是映射到已知输入/输出的第一层和最后一层，线程讨论的正是 Astra 读到的可能只是这类边界层信息，而非更神奇的内部表征解读能力。
「研究」频道最新
- Intology 推出 Locus:自主微调 Boltz-2 等前沿模型，分子设计超越专家 SOTA — anshulkundaje · 2026-11-04
- 重测 50 项 LLM 经典发现：15 个月内大半失效 — cephaloform · 2026-11-04
- Simon Willison 复现 GPT-6 Astra 直接读权重论文:45 分钟用 Qwen 3.8 27B 达成 — cephaloform · 2026-11-04
- 研究者证明大网络中「好权重」无处不在,最笨优化器也能泛化 — yuxiangw_cs · 2026-11-04
- 用 SHAP 打通潜空间与流场：解耦自编码器的可解释流体研究 — ricardovinuesa · 2026-11-04
- 人类对话轮替中位停顿是 -120ms，语音 AI 的 500ms 还差得很远 — alexisgallagher · 2026-11-04