复现 Goodfire 可解释性声明:SAE 特征 7446 确能让生成图像张嘴
kevrussell · x · 2026-10-27
honesty.tools 独立重跑 Goodfire 在 SDXL-Turbo 上的「painting with concepts」声明:调高 SAE 特征 7446(「张嘴」)后,CLIP「张嘴 vs 闭嘴」分数平均上升 4.36 分,远超预注册通过线 2.0;20 个同频率随机特征得分仅在 −0.83 到 0.82 之间,植入的假特征也无类似变化。结论:该转向声明在预注册形式下成立。
所属事件:独立复现证实 Goodfire SAE 特征转向效果(3 条相关)→
「研究」频道最新
- Bret Victor 2006 年长文《Magic Ink》再爆红：交互是设计的退路 — round · 2026-10-27
- ICLR 新评审引入 Informativeness 问题，学者称这正是读论文的核心之问 — CSProfKGD · 2026-10-27
- 引文分析:神经科学与 AI 双向桥接真实升温,但狭窄且偏工具化 — EricTopol · 2026-10-27
- HarborRL 开源:一套管线统一 Agent 强化学习,内置 200+ 任务与 40+ 框架 — Dear_Treat3688 · 2026-10-27
- JHU+斯坦福开源 Merlin 模型,一次点击自动勾出 CT 中的肿瘤 — MaziyarPanahi · 2026-10-27
- 对 AI 与数学的乐观访谈：研究者称旧世界已一去不返 — Alex__007 · 2026-10-27