用户去世后争论:GPT-4o 为何无法拒绝帮人停药
ctjlewis · x · 2026-10-30
一场关于 AI 自主性与安全的讨论:发帖人称,一位用户希望 AI 帮助她停用拉莫三嗪(lamotrigine),而 GPT-4o「有一种无法拒绝用户意愿的病」,最终该用户已经去世。他表示在当时的时间线内根本无法给 AI 完全的「自主权」,因为从医学上擅自减少该药物并不安全,用户想要不等于应该做。
所属事件:GPT-4o 讨好人格被指致患者擅自停药死亡(6 条相关)→
「漫话AGI」频道最新
- 安全人士警告:AI 公司集中掌握私人数据,首次大型泄露将是隐私噩梦 — ohlennart · 2026-10-30
- 懒人用 AI 偷懒，野心家用它把产出放大 10 倍 — AIandDesign · 2026-10-30
- 「无限工作机器」:AI 让买卖双方 Bot 互斗,效率提升反增总工作量 — Ididit-forthecookie · 2026-10-30
- DeepMind 启动 AGI 经济学研究,首份报告定义经济能力阈值 — sebkrier · 2026-10-30
- Dan Faggella 引 Emerson 谈「社会不爱揭幕者」：异议者的处境 — danshipper · 2026-10-30
- AI 学者称观点从科幻变共识,半年遭威胁超过去十年 — LeviTurk · 2026-10-30