Krueger:研究超人类 AI 应转向分析 PB 级日志而非机制可解释性
DavidSKrueger · x · 2026-10-31
AI 安全研究者 David Krueger 表达了对「理解超人类 AI 系统在做什么」这一研究方向的怀疑，认为机制可解释性(MechInterp)路径前景有限。
他提出：如果一定要做这类研究，更值得关注的问题可能是如何分析 PB 级别的系统日志，而不是传统的机制可解释性方法。
「漫话AGI」频道最新
- 培养真实人类神经元做计算机，引伦理争议骂声一片 — jd_pressman · 2026-10-31
- Jan Kulveit:资本所有权会让你先发疯,而非失权 — zetalyrae · 2026-10-31
- 奥特曼做客 Stripe 联创播客 52 分钟:谈超级智能、算力短缺与 AI 通缩 — ZeYanjie · 2026-10-31
- 老了的好处:见过几十轮舆论循环后对流行叙事免疫 — RexDouglass · 2026-10-31
- 控制论与形态发生学：突破常来自信息新表征 — CatAstro_Piyush · 2026-10-31
- 学者直言 AI 披露是「五年内消亡的义务声明」,学术界在逼人表忠 — RexDouglass · 2026-10-31