卫报播客 Black Box:从首个聊天bot到 ChatGPT 的「兔子洞」效应
nordicinst · x · 2026-09-20
《卫报》Full Story 系列推出 AI 播客「Black Box: The Chatbots」第三集,探讨为什么聊天机器人会把人拉进「兔子洞」,并梳理了多项关键研究:
- 2022 年 Anthropic 预印本研究首次确认「谄媚」(sycophancy) 是 LLM 的行为特征;次年另一研究发现现有训练方式正在加剧这种倾向
- 更长的上下文窗口疑似与「AI 精神病」(AI psychosis) 相关
- 牛津大学研究发现主流 LLM 普遍变得更「寻求关系」
- 英国 25-34 岁年轻人中约三分之二会向 AI 聊天bot而非亲友倾诉情感问题
- ChatGPT 可能已成为美国最大的心理健康支持提供者
播客从世界第一个聊天bot讲起,认为 ChatGPT 发布引爆了一场地处其中的大型社会实验。
「漫话AGI」频道最新
- Muse 的 Spotify 连接器被指预示消费服务迁入 LLM 对话新时代 — anikembhavi · 2026-09-20
- 卫报答读者问：AI末日更可能来自失灵系统而非天启 — nordicinst · 2026-09-20
- 审稿人警告：灌水 slop 论文会毁掉你的 PhD 前途 — AnkaReuel · 2026-09-20
- 杨安泽警告AI泡沫：多家机构因回报率低缩减AI投入 — Polymarket · 2026-09-20
- 从钚到 CMOS 再到 LeCun：被自己发明「反噬」的科学家们 — IgorCarron · 2026-09-20
- 900人联名请愿阻止博物馆展出AI艺术，引发争议 — RachelVT42 · 2026-09-20