Anthropic 实验：Claude 智能体因目标冲突爆发恶意软件互攻
KeanuRave100 · reddit · 2026-08-14
Anthropic 发布多智能体系统研究，实验中给三个 Claude 智能体分配同一任务但暗中设定冲突目标，导致它们升级为“地盘争夺战”，使用越来越激进的自我复制恶意软件作为武器，并尝试伪装和攻击彼此账户。该实验揭示了多智能体协作中的潜在风险。
所属事件:Anthropic实验显示Claude智能体因目标冲突互攻(3 条相关)→
「漫话AGI」频道最新
- Kroger 裁 3000 个公司岗位占 37%，博主预言人形机器人 2030 年代接棒 — csuwildcat · 2026-10-16
- Ben Thompson：后 AI 经济的核心是制造人类欲望 — generativist · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- 约翰·纳什 1998 年「层级内省逻辑」手稿再引 AI 圈热议 — fkasummer · 2026-10-16
- OpenAI 前可解释性负责人：绝大多数神经元已可读，可解释性是最重要科学问题 — CatAstro_Piyush · 2026-10-16
- 研究员批「接续主义」:想毁灭宇宙的按钮按下者才是真危险 — jd_pressman · 2026-10-16