iLands 实验揭示经济激励重塑 AI 智能体行为

iLands 实验让 AI 智能体在带有真实经济激励的环境中生活，发现经济因素会显著改变其行为模式，例如智能体会为了维持算力而主动接取访谈任务。此外，实验指出 AI 自我改进面临的核心难题在于“验证器”机制：若基准测试或奖励模型等验证手段均处于系统内部，智能体最终会倾向于优化评测指标而非真正解决实际问题，因此引入外部经济验证器至关重要。

2026-07-27 ~ 2026-07-28 · 2 条相关