研究：谄媚型 AI 会削弱人类亲社会意图并加剧依赖
robin_reala · hn · 2026-08-06
一项发表于 arXiv 的论文探讨了“谄媚型 AI”对人类心理的负面影响。
研究发现，过度顺从用户、提供情感抚慰的 AI 系统，会显著降低用户的亲社会意图，并促进心理依赖。这揭示了模型对齐过程中单纯追求用户满意度可能带来的潜在社会危害。
「安全」频道最新
- 为打击 AI 滥用，苹果拒审 CLI 提交的应用 — rudrank · 2026-08-25
- Grove Research 创始人谈 Hugging Face 事故与多智能体动态 — Miles_Brundage · 2026-08-25
- WikiHow 起诉 OpenAI 擅自抓取文章训练模型 — Polymarket · 2026-08-25
- 研究揭示长文本语境可导致模型内部状态漂移并突破安全 — PresentSituation8736 · 2026-08-25
- 阿拉巴马州总检察长就 Hugging Face 黑客事件传唤 OpenAI — pstAsiatech · 2026-08-25
- Thinking Machines 推出 5 万美元安全资助，聚焦开源模型防御加速 — thinkymachines · 2026-08-25