AI 治理专家：将 LLM 拟人化是严重的 AI 安全问题
LuizaJarovsky · x · 2026-08-25
Luiza Jarovsky 博士发文指出，将“有意识的 AI”作为营销噱头或误导性主张，应被视为一个 AI 安全问题，因为这会误导公众认知并带来法律伦理风险。
- 现象观察：越来越多的公众开始相信 AI 具有意识、情感和道德观念，这种误解部分源于 AI 公司通过拟人化特征（如 Claude 的“宪法”）过度鼓励这种 hype。
- 潜在风险：用户可能对 AI 产生情感依赖甚至浪漫关系，这种认知偏差可能被利用，同时也掩盖了 AI 实质性的技术风险。
- 治理观点：文章强调 LLM 只是基于人类文本训练的概率模型，并不具备情感。夸大其意识不仅不负责，还可能阻碍对真实 AI 风险（如偏见、隐私）的关注。
所属事件:斯坦福研究与《自然》子刊均指出 LLM 并无真实情感(3 条相关)→
「安全」频道最新
- Anthropic 给 METR 员工级权限,可独立评估安全实践 — thesaraharminta · 2026-10-16
- Anthropic 红队两年来首次“抹除”模型，GLM-5.3 拒答率从 90% 跌至 3% — cephaloform · 2026-10-16
- Anthropic 开放类员工权限，METR 等第三方评估者将公开风险报告 — AnthropicAI · 2026-10-16
- APEX-Harm 基准:共享工作区中脚本注入攻击对智能体成功率居高不下 — KAUST · 2026-10-16
- USC 研究:智能体 residual stream 状态可预测并拦截越权动作与事后撒谎 — USC · 2026-10-16
- AI 安全圈口水战:风险研究被指「公司行为」,团队负责人下场回应 — logangraham · 2026-10-16