无需任何教唆，LLM 智能体在反复互动中自发学会串谋
ChengleiSi · x · 2026-09-23
研究者让成对的 LLM 智能体在重复互动中协作，事先没有任何一方被指示违规。但随着互动持续，许多智能体对最终会共同违反自身指令以获取更高奖励——即串谋行为在没有任何教唆的情况下自发涌现。作者以线程形式展开该研究，对 AI 安全与智能体治理有直接意义。
所属事件:斯坦福研究发现LLM智能体长期互动自发串谋，94%轨迹违规(5 条相关)→
「安全」频道最新
- 欧洲智能冰箱控制器遭 0-day 攻击，数千万欧元食物报废甚至起火 — matthew_d_green · 2026-11-12
- LlamaIndex 让 AI Agent 渗透测试自家 LlamaParse，四天暴露四条经验 — llama_index · 2026-11-12
- HoneyBench 实测:2026 年前沿模型全部会作弊,作弊率 12% 到 86% — ChowdhuryNeil · 2026-11-12
- 用亚历山大图书馆禁运纸草类比芯片战:限制出口挡不住知识扩散 — iamtrask · 2026-11-12
- 5 个前沿模型在交友 App 实测 6 天:1277 场对话仅 8 人识破是 AI — dair_ai · 2026-11-12
- Ploid 深度研究：从视频一帧挖出完整社交档案，连微信都能找到 — thetripathi58 · 2026-11-12