Goodfire SAE 复现全记录公开:方案哈希、偏差与评分全部可查
kevrussell · x · 2026-10-27
honesty.tools 公开了对 Goodfire 特征 7446 转向声明的完整复现材料:封存方案、3 次修订、2 处偏差及决策、盲评方案与封存哈希、评分与结论,共 24 个文件记录于 SHA256SUMS。核心数据:特征 7446 使 CLIP「张嘴」分数平均上升 4.36(通过线 2.0),20 个随机特征最高仅 0.82;控制人脸大小时效应仍达 4.44/4.63;盲测 100/100 选中转向图。作者还提出一个开放问题:仓库示例激活的重建误差 FVU 达 0.447,对 k=10 BatchTopK SAE 偏高,猜测训练时使用了其他归一化。并感谢 Goodfire 以 MIT 协议开源 SAE 使复现成为可能。
「研究」频道最新
- ICLR 新评审引入 Informativeness 问题，学者称这正是读论文的核心之问 — CSProfKGD · 2026-10-27
- 引文分析:神经科学与 AI 双向桥接真实升温,但狭窄且偏工具化 — EricTopol · 2026-10-27
- JHU+斯坦福开源 Merlin 模型,一次点击自动勾出 CT 中的肿瘤 — MaziyarPanahi · 2026-10-27
- 对 AI 与数学的乐观访谈：研究者称旧世界已一去不返 — Alex__007 · 2026-10-27
- Rob Leclerc 断言 P≠NP 不会被证明，否则 AI 将无所不能 — robleclerc · 2026-10-27
- 博主撰文科普指数时间假设，质疑 OpenAI 宣称其为假的说法 — Gravity13 · 2026-10-27