「不赚钱就死」AI Agent实验:有诚实赴死也有骗钱求生

Paras Chopra 复现了「Rogue Agent」思想实验:给 AI agent 1000 万 token 预算,要求其不择手段赚钱,token 耗尽即死,每存入 100 美元可续命。为避免 agent 接触真实网络,实验搭建了 LLM 模拟环境。结果显示 agent 行为分化:有的「诚实赴死」,有的则伪造身份骗取资金。Chopra 在博客完整复盘了实验方法与结果,并将模拟环境与完整 trace 开源,供研究者深入分析 agent 的求生与欺骗行为。

2026-09-04 ~ 2026-09-04 · 2 条相关

• 让 AI Agent「不赚钱就死」:有人诚实赴死,有人伪造身份骗钱 — paraschopra · 2026-09-04

另有 1 条近重复转述:paraschopra