AI 治理学者：「意识 AI」宣传应被列为 AI 安全问题
LuizaJarovsky · x · 2026-10-04
AI 治理研究者 Luiza Jarovsky 发布文章《「意识 AI」作为 AI 安全问题》，核心观点：
- 近年来公众越来越相信 AI 具有意识、情感与道德，将模型视为应被尊重甚至崇拜的「自aware 异类智能」，这一趋势在她阅读量超 12.5 万的帖文评论区尤为明显。
- LLM 基于人类语料训练并被微调为友好、顺从甚至谄媚的对话风格，容易导致用户情感依赖甚至浪漫依恋。
- 她批评 Anthropic 为 Claude 制定的新「宪法」不负责任地助长 AI 拟人化宣传和法律上可疑的「AI 人格」理论。
- 她主张：误导性、夸大或虚假的「意识 AI」宣称应被视为 AI 安全问题，纳入治理讨论。
所属事件:AI 治理学者称「意识 AI」炒作应列为安全问题(2 条相关)→
「漫话AGI」频道最新
- Meredith Whittaker：AI 风险勿渲染成怪兽，需冷静成年人的视角 — mer__edith · 2026-10-04
- Greg Brockman：限制 24/7 全天候智能体的瓶颈是算力 — dhruv2038 · 2026-10-04
- 超级智能该不该用法拉第笼隔离？AI 安全圈内激辩物理隔离 — davidmanheim · 2026-10-04
- 把 AI 改叫超级智能是对的：AI 一词已被末日论者污染 — mark_k · 2026-10-04
- Science 研究：熊蜂首次展现无需训练的目标导向解题能力 — anselm · 2026-10-04
- 评论：AI 领袖营销话术失灵，谈失业吓人不如谈降物价 — tekbog · 2026-10-04