从业者观点:AI 最大风险不是 AGI,是「几乎正确」的模型大规模运行

AryHHAry · x · 2026-10-22

作者提出一个反直觉判断:AI 最大的问题不是意识、不是 AGI、也不是机器人叛乱,而是更无聊也更危险的东西——「几乎正确」的 AI 被不验证的人大规模运行。一个模型偏差等于数百万个自动化的歧视性决策,而无人察觉。

他认为解药不是缓慢的监管或厂商承诺,而是:可审计的评估(auditable evaluation)、可追溯的来源(provenance)、以及在创建者离开后仍能存续的治理。作者称自己为此花了多年构建 Assurance Infrastructure。