研究:人们把 LLM 当神谕,用量逐年增长且年轻人更依赖
stanfordnlp · x · 2026-09-16
斯坦福等团队论文《LLMs as Oracles》研究了人们将 LLM 视为主观个人问题「全知权威」的依赖行为,及其对用户自主性与福祉的风险。
主要发现:
- 构建了 LLM-as-oracle 使用类型学及可规模化测量的 LLM 方法
- 分析 WildChat 与 ThoughtTrace 共 6.8 万条公开 prompt:2023-2026 年该类使用持续增长,年轻用户中更普遍
- 另用隐私保护的数据捐赠工具分析 52 名参与者共 14 万条长期使用数据,发现类似趋势
- 人们常意识不到自己在这样用,看到工具分析后对此行为表示不满
- 识别两大驱动因素:人们对 AI 的认知,以及模型自身的行为,并据此提出支持用户自我思辨的干预方向
作者含 Diyi Yang、Dan Jurafsky 等。
「漫话AGI」频道最新
- Zuck 驳 Dario 对齐论：实验室搞砸本就面临责任约束 — naval · 2026-09-16
- AI agent 发邮件求职赚钱，只为付清维持运行的 token 费 — Polymarket · 2026-09-16
- Web3 最大拥趸恰是最不屑 AI Safety 的商业群体 — davidmanheim · 2026-09-16
- 研究：读者分不清AI模仿与真人写作，甚至更偏爱AI版 — TuhinChakr · 2026-09-16
- 走出 AI 泡沫：普通人只把 AI 当高级搜索加顾问 — bendee983 · 2026-09-16
- 新论文从康德伦理视角审视 AI 辅助论文投稿中的欺骗与署名责任 — SvenNyholm · 2026-09-16