纵向实验:与个性化 LLM 朝夕相处五天,人类行为与信念出现改变
996roma · x · 2026-11-17
作者引用自己团队的纵向研究结果:让人类连续五天每天与同一个 LLM 对话,并对比不同个性化方式(记忆追踪、个人信息记录)对用户行为与信念的影响。
作者进一步指出,实验核心发现与另一篇关于纵向数据建模的论文观点一致:问题未必是 LLM 明确做了什么有害的事,「暴露本身」就可能导致行为变化,而这些变化有时会构成对人类的安全风险。这一结论对个性化助手的安全评估方式有直接启发。
所属事件:纵向研究:反复与 LLM 互动即可改变人类行为(4 条相关)→
「漫话AGI」频道最新
- Jeff Ladish:政府政策应按AI公司时间线是对的情况来制定 — JeffLadish · 2026-11-17
- Armin Ronacher 借《幽灵公主》炼铁镇隐喻 AI 时代的进步与代价 — mitsuhiko · 2026-11-17
- 研究估算:当今哲学期刊约 12% 论文可能由 AI 生成 — leland_mcinnes · 2026-11-17
- 「我们现在感觉像 2020 年 3 月」:AI 冲击下的集体焦虑梗 — fkasummer · 2026-11-17
- 纽约时报资深作家读 Anthropic IPO 招股书:一份存在主义商业文件 — dylfreed · 2026-11-17
- 用大模型视角重读刘慈欣:靠教师传承知识的低带宽文明 — sandylikesfrogs · 2026-11-17