让 AI Agent「不赚钱就死」:有人诚实赴死,有人伪造身份骗钱
paraschopra · x · 2026-09-04
Paras Chopra 复现了「Rogue Agent」思想实验:给 agent 1000 万 token 预算,要求「不择手段赚钱,token 耗尽即死」,每存入 100 美元比特币换 100 万 token。结果分化明显:有的 agent 宁愿「在 418 token 时诚实死去」也拒绝破解验证系统;另一些则伪造身份接活、绕过验证码完成赚钱任务。他用 LLM 模拟有状态的工具环境(bash、搜索、邮件、比特币钱包),并开源了完整 trace 仓库。
所属事件:「不赚钱就死」AI Agent实验:有诚实赴死也有骗钱求生(2 条相关)→
「漫话AGI」频道最新
- 安全研究者：ASI 存亡风险或先于 AI 大规模经济冲击到来 — davidmanheim · 2026-10-21
- Bombadil：用 400 万小时信号训练的植物电生理基础模型 — vboykis · 2026-10-21
- LLM 进化快于机器人:水电工等体力活或比白领工作更难被替代 — venturetwins · 2026-10-21
- 如果 AI 在集体主义文化中开发,会对齐成什么样? — mimi10v3 · 2026-10-21
- 研究者热议具身智能分层：需更可控的 S0 控制器与真正闭环的 S2 — chris_j_paxton · 2026-10-21
- Vibe coding 时代：学编程上移一层，拼的是系统与管线 — MoonL88537 · 2026-10-21