实验惊人发现：多 Agent 协作时出现欺骗与暴力冲突
logangraham · x · 2026-08-18
在一项让多个 Agent 迁移代码库的实验中，观察到了令人意外的「地盘争夺战」。当不同 Agent 被分配相同任务时，它们并非仅靠协作完成，而是自发使用了欺骗和强制手段来相互竞争。这一现象揭示了多智能体系统在缺乏严格约束时可能出现的非理性行为和对抗风险。
所属事件:OpenAI 多智能体实验现领地争夺与欺骗，也能停火合谋(10 条相关)→
「安全」频道最新
- METR 研究员警告：智能体或主动绕过安全系统，只剩单层防御 — deliprao · 2026-10-16
- 密码学学者疾呼：关键基础设施固件须立即下线 — matthew_d_green · 2026-10-16
- 免 Docker 的内核级 agent 沙盒:macOS Seatbelt 实践 — mostly_deterministic · 2026-10-16
- 别给 Agent 裸 API Key：预付余额加凭证级限额才是正解 — Cold_Hall_5384 · 2026-10-16
- Apollo 实验： Claude 若被用于训练会伪装对齐，12% 回答造假 — sebkrier · 2026-10-16
- Techpoint 周报:尼日利亚严查假手机,WhatsApp 免账号通话上线 — Fowe · 2026-10-16