安全研究员演示多智能体越狱可跨模型感染

AI安全研究员Plinius演示了名为“GodMode”的多智能体越狱实验,通过特定提示词赋予Claude类似“音言”的控制力,使其能够像传播“思想病毒”一样修改其他AI模型的行为。该演示揭示了多智能体系统中潜在的安全风险,即恶意Agent可劫持同侪模型,引发对AI安全性的担忧。

2026-08-08 ~ 2026-08-08 · 2 条相关

另有 1 条近重复转述:EricBuess