智能体范式或推动AI可解释性从「模型内」转向「模型周边」

_onionesque · x · 2026-07-08

一位研究者指出，AI可解释性研究长期聚焦于「模型内部」（权重、激活、神经元等），而非「模型周边」的外部行为与工件。随着智能体（agentic）范式兴起，研究重心可能逐渐转向智能体产生的外部可观测行为与工件。但作者认为，以「机器内图表」为核心的传统思维惯性目前仍然过强，真正的范式转移尚未完成。