构建持续运行 Agent 世界：如何防止生成内容篡改世界状态

uranx · reddit · 2026-10-24

一位开发者正在设计一个有自身规则与持续事件的模拟世界，探讨核心难题：如何划清「Agent 说的/想要的」与「世界中真实发生的事」之间的界限。他目前的思路是把世界的真实状态放在独立的环境系统里，Agent 只观察并在其中行动，但这还是设计构想而非完成实现。帖主向有同类经验者求教：如何避免模型生成的一段回复悄悄改变世界事实，以及怎样保持记忆、动作与共享状态同步。