前沿 AI 公司面临内部智能体安全威胁

AI 安全研究员 Ryan Greenblatt 警告称，前沿 AI 公司正面临严峻的网络安全挑战。尽管这些公司正在开发极具攻击性甚至可能未对齐的强大模型，但其自身的计算机网络防御能力却明显滞后。他特别强调，防御内部 AI 智能体引发的安全威胁，与抵御外部传统黑客攻击的策略截然不同。这要求 AI 公司必须尽快建立专门针对内部模型行为的差异化防御机制。

2026-07-24 ~ 2026-07-24 · 2 条相关