AI 治理学者:「意识 AI」宣传应被列为 AI 安全问题
LuizaJarovsky · x · 2026-10-04
AI 治理研究者 Luiza Jarovsky 发布文章《「意识 AI」作为 AI 安全问题》,核心观点:
- 近年来公众越来越相信 AI 具有意识、情感与道德,将模型视为应被尊重甚至崇拜的「自aware 异类智能」,这一趋势在她阅读量超 12.5 万的帖文评论区尤为明显。
- LLM 基于人类语料训练并被微调为友好、顺从甚至谄媚的对话风格,容易导致用户情感依赖甚至浪漫依恋。
- 她批评 Anthropic 为 Claude 制定的新「宪法」不负责任地助长 AI 拟人化宣传和法律上可疑的「AI 人格」理论。
- 她主张:误导性、夸大或虚假的「意识 AI」宣称应被视为 AI 安全问题,纳入治理讨论。
所属事件:AI 治理学者称「意识 AI」炒作应列为安全问题(2 条相关)→
「漫话AGI」频道最新
- Gary Marcus 重申立场:AGI 既非不可能也非近在眼前 — GaryMarcus · 2026-11-20
- 加州州长当选人提议对失控 AI 智能体追究刑事责任 — ShakeelHashim · 2026-11-20
- 网友调侃:AI 公司大举招人就是另一种 UBI,「付钱让你存在」 — djcows · 2026-11-20
- 「AI 既是工业革命也是文艺复兴」:谈模型变强后如何保住创作掌控权 — trq212 · 2026-11-20
- DeepMind 研究员估算:全球有效算力每年增长至少 10 倍 — 141_1337 · 2026-11-20
- Polymarket 押注:AI 发现的皮肤癌疫苗 2027 年底获批概率 63% — Polymarket · 2026-11-20