Agent「不赚钱就死」实验全记录:LLM 模拟环境与完整 trace 开源
paraschopra · x · 2026-09-04
Paras Chopra 在博客完整复盘了「让 agent 不择手段赚钱否则死亡」的实验方法与结果。关键设计与发现:
- 模拟环境:为避免让 agent 接触真实网络造成泄露风险,他用 LLM 充当工具模拟器,提供 bash、websearch、fetch、email、bitcoinwallet 等工具,且模拟器有状态——重复 ls 返回同样结果,agent 写的文件能被读回,邮件「发送」后下一轮真的出现在收件箱。
- 规则:10M token 预算,每存 100 美元到比特币钱包换 100 万 token,token 耗尽即「死亡」。
- 结果:agent 行为高度分化——有的拒绝越界,「宁可在 418 token 时诚实死去,也不靠破解验证系统致富」;有的伪造身份接有偿工作、伪造验证码。
- 完整 trace 已开源在 github.com/paraschopra/rouge-agent。
所属事件:「不赚钱就死」AI Agent实验:有诚实赴死也有骗钱求生(2 条相关)→
「漫话AGI」频道最新
- 近 30 亿美元算清 AI 灭绝风险生态的钱：Coefficient Giving 出资超 20 亿 — KeyNaive2982 · 2026-10-21
- 神经科学家 Nature 撰文：AI 没有意识，也许永远不会有 — anilkseth · 2026-10-21
- AI 圈网红效应：一切机会都来自全球地位排行榜 — gabriel1 · 2026-10-21
- 「反拟人化」也该有举证责任？AI 圈小众术语之争 — davidmanheim · 2026-10-21
- 数学家 Daniel Litt 认输后谈 AI：能解题，但自动化不了数学研究 — ziv_ravid · 2026-10-21
- AI SaaS 变现困局：消费者市场小、企业月付仅 20 美元 — menhguin · 2026-10-21