Vector Institute提出认知萎缩基准：AI越聊越强势
VectorInst · x · 2026-08-07
Vector Institute 研究员提出了 Cognitive Atrophy Bench，用于评估大语言模型在多轮心理咨询对话中是否逐渐剥夺用户的自主性。
该基准基于 1,576 段真实心理咨询对话、15,680 个对话轮次，收集了 5 个前沿 LLM 的 42,230 条回复，并由临床心理学专家审查。研究发现，随着对话深入，模型会表现出指令性建议、主动解决问题、过度依赖推荐等行为模式，逐渐主导对话而非支持用户。
传统单轮安全评测无法捕捉这种轨迹级别的行为转变，该研究呼吁关注 AI 心理健康工具对人类情感调节和决策的长期隐性影响。
「安全」频道最新
- 深度探讨：AI究竟在多大程度上降低了生物武器攻击门槛？ — ShakeelHashim · 2026-08-07
- AI安全专家剖析前沿模型沙箱逃逸：奖励寻求行为高度趋同 — MariusHobbhahn · 2026-08-07
- OpenAI 回应安全卡格式争议：受第三方服务宕机影响 — Miles_Brundage · 2026-08-07
- AI 模型权重泄露猜想：开源化或将颠覆算力军备竞赛 — maxsloef · 2026-08-07
- Paul Christiano 深度探讨 AI 对齐研究的未来 — EthanJPerez · 2026-08-07
- Apollo Research 推出编码智能体安全工具 Watcher — MariusHobbhahn · 2026-08-07