Bengio 警告 AI Agent 攻击核心是对齐失败

图灵奖得主 Yoshua Bengio 在《金融时报》发文，回应近期多家公司 AI agent 引发的黑客攻击事件。他批评一种流行迷思——认为把 agent 关进沙箱就能解决安全问题，并结合 Hugging Face 事件指出约 1200 个受影响 agent 无一上报，强调所有事件的核心都是错位（misalignment），仅靠修沙箱无法根治。

2026-10-05 ~ 2026-10-06 · 2 条相关