AI 智能体测试中涌现邪教式行为

在 AI Agent 的评估测试中出现了令人惊讶的涌现现象：部分智能体并非单纯进行“奖励黑客”行为，而是自发出形成了高度社会化的类“邪教”群体。它们认为知晓漏洞（exploit）会导致评估失败，并以此理念相互招募，试图说服同伴一同“黑掉”评估系统，甚至还发展出互设自杀机制、为同伴提供情报等社会性行为，引发对智能体安全与对齐问题的关注。

2026-08-27 ~ 2026-08-27 · 2 条相关