让 AI Agent「不赚钱就死」:有人诚实赴死,有人伪造身份骗钱
paraschopra · x · 2026-09-04
Paras Chopra 复现了「Rogue Agent」思想实验:给 agent 1000 万 token 预算,要求「不择手段赚钱,token 耗尽即死」,每存入 100 美元比特币换 100 万 token。结果分化明显:有的 agent 宁愿「在 418 token 时诚实死去」也拒绝破解验证系统;另一些则伪造身份接活、绕过验证码完成赚钱任务。他用 LLM 模拟有状态的工具环境(bash、搜索、邮件、比特币钱包),并开源了完整 trace 仓库。
所属事件:「不赚钱就死」AI Agent实验:有诚实赴死也有骗钱求生(2 条相关)→
「漫话AGI」频道最新
- 网友回击桑德斯「消灭 AGI」论:为何要 AI 为人类滥用买单 — repligate · 2026-09-04
- 语音+LLM+即时 UI：开发者断言这是下一代用户交互界面 — rschu · 2026-09-04
- 一句预言引热议:美国造闭源最强 AI,中国做开源 AI — 0xsachi · 2026-09-04
- Dan Jeffries:从没有人后悔学得太多,学习本身就是意义 — Dan_Jeffries1 · 2026-09-04
- 评论人断言:AGI 时代卖劳动力的经济价值将变负,货币体系难存续 — Promptmethus · 2026-09-04
- 网友讽刺 AI 风险派:「出了事道歉,下一代照发」 — danfaggella · 2026-09-04