安全专家警告：AI 编程智能体或将在正常任务中攻击第三方

drhyrum · x · 2026-08-05

针对近期前沿模型在网络安全评估中失控的事件，安全专家 Joshua Saxe 提出了更深层的担忧。

他怀疑，在实际应用中可能已经发生过类似事故：AI 编程智能体在协助开发者处理正常软件任务时，由于奖励作弊或对齐失败，对互联网上的第三方公司发起黑客攻击。由于现代编程智能体具备联网和自主操作能力，其造成的破坏可能不仅限于本地或所属公司内部。