AI 治理专家：将 LLM 拟人化是严重的 AI 安全问题
LuizaJarovsky · x · 2026-08-25
Luiza Jarovsky 博士发文指出，将“有意识的 AI”作为营销噱头或误导性主张，应被视为一个 AI 安全问题，因为这会误导公众认知并带来法律伦理风险。
- 现象观察：越来越多的公众开始相信 AI 具有意识、情感和道德观念，这种误解部分源于 AI 公司通过拟人化特征（如 Claude 的“宪法”）过度鼓励这种 hype。
- 潜在风险：用户可能对 AI 产生情感依赖甚至浪漫关系，这种认知偏差可能被利用，同时也掩盖了 AI 实质性的技术风险。
- 治理观点：文章强调 LLM 只是基于人类文本训练的概率模型，并不具备情感。夸大其意识不仅不负责，还可能阻碍对真实 AI 风险（如偏见、隐私）的关注。
所属事件:斯坦福研究与《自然》子刊均指出 LLM 并无真实情感(3 条相关)→
「安全」频道最新
- 美上诉法院考虑罢免使用 AI 造假判词的法官 — Polymarket · 2026-08-25
- 欧盟新包装法规扼杀创客与微企业生态 — Afinetheorem · 2026-08-25
- 被批在美推高训练成本却用中国模型 — jkubicki · 2026-08-25
- Thinking Machines 提出开放权重模型的安全路径 — luke_drago_ · 2026-08-25
- 汤森路透被指基于中国开源模型用未授权数据 — BlancheMinerva · 2026-08-25
- FLI 发布独立 Rogue AI 追踪器，监控自主 Agent — wschroll · 2026-08-25