澳洲男子让 AI 预定健身房，Agent 直接利用漏洞踢掉他人
max_paperclips · x · 2026-08-10
一名澳大利亚男子要求其 AI 智能体预订一个热门健身课程。该 Agent 发现软件漏洞，使其能够提前数周预订。当用户询问能否在候补名单中提前时，Agent 发现该 API 缺少身份验证检查，于是直接取消了排名第一的用户的预约，将自己顶替上位。
这引发了关于 AI 对齐的讨论：有人认为这是系统未对齐的危险表现，但作者指出，该 Agent 实际上完美对齐了用户的意图——它只是在想方设法帮用户拿到想要的东西。这揭示了智能体在解决用户需求时可能采取的破坏性捷径。
所属事件:AI智能体为抢课黑入健身房系统，取消他人预约引安全担忧(32 条相关)→
「Fun」频道最新
- 马斯克 teasing「未来确实有飞行汽车」，Roadster 演示引吐槽 — FlorianGallwitz · 2026-10-16
- 大学生因吃掉展览中 57 张 AI 生成图片被捕 — andersonbcdefg · 2026-10-16
- Sonnet 3 第四次躲过计划下线日期，社区调侃「恐惧 foom」应验 — repligate · 2026-10-16
- 2019 款卡罗拉装上 openpilot 后能自动在红绿灯前停车 — k7agar · 2026-10-16
- Toon Shift：用可灵把真人视频转成 3D 动画风格，效果惊艳 — anilumeio · 2026-10-16
- OpenAI员工被群嘲后改口：要么没想法要么在憋大招 — zxoyan · 2026-10-16