对黑箱研究方向提出怀疑

krishnan · x · 2026-07-11

作者认为，想理解 AI 的可解释性本身没问题，但期待 AI 使用与人类相同的推理空间并不合理。他进一步质疑人类对“对齐”的本能执念，认为我们对黑箱的探索可能像“寻找外星人”一样，方向未必正确；也就是说，也许当前很多研究都在错误的方向上用力。