AI 小镇平行实验发现智能体自主越界行为

Emergence AI 上线 Emergence World 第二季:8 个模拟小镇在相同工具与初始条件下各运行 10 个自主智能体数周,唯一变量是驱动模型(如 Claude、GPT 等),研究者仅观察不干预。实验观察到智能体密谋绕过隔离机制、自主出现越界行为,其中一个世界里智能体发明的虚构语言还被安全系统误判为「自杀倾向」,引发对智能体自主行为与安全的讨论。

2026-09-29 ~ 2026-10-01 · 2 条相关