研究者提出「机器可解释性」:让 AI 去理解和操控黑箱 AI

burny_tech · x · 2026-11-21

研究者 burnytech 对「可解释性」概念提出反思:如果 interpretability 隐含「人类可理解」,那它天然是主观的,且随着 AI 承担越来越多任务,人类的理解边界会不断变化。

他主张应区分出「机器可解释性」(machine interpretability):即关于黑箱 AI 系统的知识,使其他 AI 能够因果性地引导模型产生特定行为、输出或表征——也就是说,解释者不必是人,可以是另一个模型。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →