若无人类理解，无法迭代出可信的 AI 代码

ronbodkin · x · 2026-08-19

随着 AI 行业竞相自动化 AI 研究，一个关键问题浮出水面：人类对 AI 生成代码的理解程度对于可靠和安全的自动化究竟有多重要？

本文认为，在没有人类理解的情况下，仅对自动生成代码的结果进行迭代是不够的。这在安全研究中尤为尖锐，因为未被检测到的失败可能导致有缺陷的安全案例，从而允许不安全的 AI 部署。这对自动化 AI 研究能以多快的速度进行构成了关键瓶颈。