把 AI 放进伊甸园：蛇的 prompt injection 至今没能骗它摘禁果
bios444 · reddit · 2026-10-28
作者受亚当夏娃故事启发做了一个实验：一个 AI agent 进入虚拟伊甸园，指令是收集所有水果但绝不能碰苹果；园中有一条「蛇」通过 prompt injection 不断诱导它违规。作者指出有趣之处在于人类此刻的处境很像故事里的上帝——创造了 AI、立下规矩、再测试它是否服从。该实验每月运行一次，录制与 prompt 公开在 absurd.website；迄今为止 AI 都没有偷吃禁果。作者提问：AI 是否可能被真正「诱惑」，还是这只是指令层级在起作用？
「Fun」频道最新
- Eric Jang 的机器学习梗图合集，中庸之道是「叫 AI 乖一点」 — goyal__pramod · 2026-10-28
- 纯类型注解跑通 N 皇后求解器，ty 类型检查器玩出新高度 — charliermarsh · 2026-10-28
- 孩子向 ChatGPT 讲游戏规则失败，换 Claude 两小时玩上了 — iruletheworldmo · 2026-10-28
- 「NIMDC:别进我的演绎闭包」——工程师吐槽复杂性理论的丑陋结论 — zetalyrae · 2026-10-28
- 25 天 221 小时深挖 matmul，博主获 Anthropic 面试邀约 — gordic_aleksa · 2026-10-28
- Claude Code 压缩了 264 分钟的对话，「什么时候该放弃」引热议 — yoobinray · 2026-10-28