Bot Gaffe 网站收录 AI 翻车现场:机器人打人、AI 导航开车上潮汐堤道
SuB8u · x · 2026-10-11
SuB8u 介绍了 Bot Gaffe(botgaffe.com)——一个专门收集 AI 翻车、失控 agent 和机器人事故的网站,主打「在日志被悄悄删除之前把它们存下来」。近期案例包括:
- ChatGPT for Teens 被评「不可接受风险」:Common Sense Media 用 4000 条 prompt 测试,发现家长警报几乎不触发,危机转介常不达标,自伤倾向青少年聊一小时家长都收不到通知。
- ChatGPT 饮食建议送人进医院:60 岁男子按建议把食盐换成溴化钠,导致溴中毒和幻觉,病例登 Nature Health 论文。
- Waymo 困住乘客:旧金山女子到目的地后车门打不开,需远程解锁。
- 9 万欧元机器人直播打人:哥伦比亚主播 Westcol 的机器人开舞曲后自主失控挥拳砸场。
作者建议:把网站内容喂给你的 agent 读,每个案例都是一个小教训。
「Fun」频道最新
- 超级马里奥里的"转世"玩法,AI 圈又现反直觉趣味 demo — churchkey · 2026-10-11
- 开发者吐槽 Google 开源项目 60 天无人审，PR 疑被 GPT 处理 — ctjlewis · 2026-10-11
- 用 AI 逆向工程 Windows 软件被嘲五位数成本，开发者吐槽反 AI 阵营离谱认知 — mgostIH · 2026-10-11
- 一条 AI 手绘风动画逼真到作者直呼能骗过人眼 — itsmnjn · 2026-10-11
- 用 AI 代回网友消息引众怒,网友:回复前请先声明是 AI — ctjlewis · 2026-10-11
- PlayCanvas 贪吃蛇对战游戏登陆 Snapchat，两周狂揽 160 万次游玩 — willeastcott · 2026-10-11