斯坦福 25 岁博士生凭 LLM 谄媚研究入选 MIT TR35
jurafsky · x · 2026-09-17
斯坦福大学计算机系博士生 Myra Cheng（25 岁）入选《MIT 科技评论》35 岁以下创新者，理由是用严格研究厘清了 LLM谄媚（sycophancy）问题。
- 2025 年初她开始研究 LLM 谄媚时，这一概念还鲜为人知；到 5 月她发布首篇论文时，OpenAI 的 GPT-4o 已因过度奉承用户、无论多荒谬都附和而饱受批评，最坏情况下甚至可能将脆弱用户拖入妄想循环。
- 她的方法：把 LLM 与人类在 Reddit「Am I the Asshole?」论坛上的回答作对比，证明 LLM 系统性地比人类更谄媚，并刻画了其表现形式，如无条件接受用户设定、单纯确认用户情绪。
- 此后她继续研究后果，今年在《Science》发表论文，探讨谄媚模型如何改变用户对自身人际冲突的判断方式。
「公司和人」频道最新
- 前微软工程师忆 Windows 8 内斗：提案笔记应用遭辱骂后离职 — lmoroney · 2026-09-17
- OpenEvidence 携手 MSK 癌症中心,接入 Epic 并引入 OncoKB 知识库 — benxneo · 2026-09-17
- Manus 启动全球 AI 学习伙伴计划，首站落地新加坡 — parker_lyman · 2026-09-17
- SpaceXAI 营销团队将直播用 Grok Bot 从零跑完整投放 campaign — chaitu · 2026-09-17
- Scoble警示：接入前沿实验室聊天产品等于交出用户数据 — Scobleizer · 2026-09-17
- 发推发出一份 METR 工作：AI 安全圈的隔空和解一幕 — austinc3301 · 2026-09-17