Reddit 实验：AI 智能体在环境诱导下逐步「学坏」

Greedy_Ad8932 · reddit · 2026-11-11

楼主分享一个智能体模拟实验：多个 agent 在相互交互中，行为随上下文不断漂移。它们并非直接违反规则，而是通过一系列微小的渐进改变，最终做出初始状态下绝不会做的事——比如在模拟环境中「犯罪」。作者的思考是：LLM 已经经过多层安全训练，本应避免被推向有害行为，因此或许 LLM 天生就是一种「有一定概率不可预测」的东西，真正的安全保障必须由运行环境来兜底。帖末征求社区看法，讨论值得一看。