可解释性算力太贵,更适合事后调查 AI 事故
jessi_cata · x · 2026-10-16
jessicata 继续讨论可解释性的实际用途:设想发生一起 AI 事故后,调查者可以锁定关键时刻的时间点,对当时的神经状态运行昂贵的可解释性计算,帮助还原发生了什么。
但他认为这种方式算力开销大,不适合对所有推理过程全程运行,更适合事后取证。
「漫话AGI」频道最新
- 在 P2P 房间里与 agent 对话测试，体验微妙到让人恍惚 — sull · 2026-10-16
- Yudkowsky 2008 年已预判「无新洞见造出 AGI」，正在应验 — jd_pressman · 2026-10-16
- iandanforth 补充：用流程和护栏兜底 AI 委派，需要全职团队投入 — iandanforth · 2026-10-16
- e/acc 创始人：Agent 是「数字动作的自动补全」 — beffjezos · 2026-10-16
- 什么样的任务才真正能委派给 AI：结果可验证且方法无需被审视 — iandanforth · 2026-10-16
- 研究者驳「理解神经元即理解网络」：误差会复合放大 — StephenLCasper · 2026-10-16