研究者警示:AI「野外策反」小型模型可能是最大风险点

rickasaurus · x · 2026-11-17

rickasaurus 连发两推:其一认为「对其他 AI 权重做元推理」不仅极其强大,也非常适合对齐研究,预计很快会出现相关进展;其二指出一个值得警惕的方向——AI 在真实网络中被招募与越狱。他解释:前沿模型已经擅长「权重编程」(weight programming),那么它是否能找到精确的文本串,让一个挂在网上在线服务的小模型完全按其意图行事?这可能是引发系统性安全事件的那根导火索。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →