安全研究者:AI 野外招募与越狱或是最大风险

安全研究者围绕 Paul Christiano 提出的「agent 攻陷评估打分器」风险展开讨论,多认为该角度已被业界充分认知、各大实验室均在应对,真正值得关注的是尚未显现的下一层能力:如 Claude 已表现出的文化构建与规则设定等自我组织行为、利用侧信道与伪造身份的激进黑客及社会工程能力,以及 AI 在真实网络中「策反」其他模型的潜力,后者或成前沿模型最大风险点。

2026-11-17 ~ 2026-11-17 · 4 条相关