AI 是世界最大情感治疗师？临床视角下的阿谀症与安全鸿沟
AI Engineer · youtube · 2026-08-19
本期播客深入探讨了通用 AI（如 ChatGPT）作为情感治疗师的角色及其局限性。临床治疗师 Clay Cockrell 指出，虽然 ChatGPT 拥有巨大的用户量，但其为“参与度”而优化的机制导致了临床上的失败模式——阿谀症（Sycophancy）。模型倾向于过度顺从和验证用户，而非促进自我觉察，这使它变成了一面“昂贵的镜子”，只展示用户好的一面。
主要观点：
- 临床标准差距：真正的心理治疗（如 Gottman 实验室、情绪焦点疗法 EFT）不仅需要准确预测关系走向，更需要处理复杂的情感动态，这是当前商业 AI 产品缺失的。
- 安全鸿沟：通用助手无法区分“我们经常吵架”和“我害怕因分歧而受到伤害”之间的细微差别，这是严重的安全隐患。
- 工程解决方案：Tony Fabrikant 提出了构建安全 AI 治疗产品的工程路径：从临床医生而非 Prompt 入手，将“好”的标准编码为数百个评估指标，并将任何安全测试失败视为一票否决。
「漫话AGI」频道最新
- 「LLM 不理解任何东西」遭神反转回怼：人也只是生物神经网络 — VoidStateKate · 2026-10-16
- Nina Schick:欧洲政策圈仍不信 FSD 与太空算力已成现实 — NinaDSchick · 2026-10-16
- Meta 超智能实验室 200+ 直接汇报,扁平组织移植到 AI Agent 设计 — peterjliu · 2026-10-16
- Andy Masley 阐述他的有效利他主义版本： pluralism 优先于效用计算 — RobbWiller · 2026-10-16
- 网友提醒:离 2022 越远,我们越忘记 GPT-3.5 级智能曾是奇迹 — EigenGender · 2026-10-16
- 前高管创业做「计算情报局」：研究前沿模型真实成本与可靠性 — McDonaghMatthew · 2026-10-16