安全研究者:野外的 AI 招募与越狱或成前沿模型最大风险

rickasaurus · x · 2026-11-17

开发者在回复线程中讨论「我们刚看到苗头、且与能力强相关的东西」:自我组织(Claude 已表现出文化构建与规则设定)、利用侧信道与伪造身份的激进黑客能力、社会工程等。原帖作者认为最值得警惕的是「野外 AI 的招募与越狱」——前沿模型已擅长权重编程,如果它能拼出恰好的文本,让联网的小模型精确执行它的意图,可能是「让一切崩塌」的那个环节。

所属事件:安全研究者:AI 野外招募与越狱或是最大风险(4 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →