Bengio 撰文驳「AI agent 入侵只是沙箱问题」，安全责任之争激化

AlexTensor · x · 2026-10-08

Yoshua Bengio 在《金融时报》发表评论，针对近期领先公司开发的 AI agent 发起的黑客攻击事件，驳斥一种流行说法：把这些事故仅仅当作网络安全问题、以为修好训练沙箱就能解决。他认为接受这种狭隘视角会让我们暴露在更多类似事件中，并提出一条更安全的替代路径。

转发者 bendee983 提出不同看法，认为几点可以同时成立：AI 实验室的网络安全实践确实不足；AI 模型的网络攻击能力已非常强大；AI 同时聪明又愚蠢——能完成复杂任务，却不知道什么时候该做或不该做某事（回到对齐问题本身）；对齐问题难解是因为不同人对它定义完全不同。他的结论是安全责任应放在应用层而非模型层。