「AI 有意识」被点名为安全问题:炒作正在扭曲公众认知
LuizaJarovsky · x · 2026-10-04
AI 治理研究者 Luiza Jarovsky 在其第 290 期 Newsletter(订户超 10.1 万)中提出:对「AI 有意识」的误导性、夸大或虚假宣称应被视为 AI 安全问题。
- 她观察到公众态度剧变:越来越多人相信 AI 拥有意识、情感、道德,把 AI 视为应被尊重甚至崇拜的「异类智能」。
- LLM 基于人类文本训练并被调优得友好、顺从甚至谄媚,导致用户对 AI 产生依赖、情感依附乃至恋爱关系。
- 她批评 Anthropic 给 Claude 设「宪法」等做法不负责任地鼓励拟人化炒作,并质疑「AI 人格」相关法律理论站不住脚。
- 她每次批评这类实践都会遭到坚信自己 AI 有意识的人的人身攻击,相关帖子在 X 上浏览量超 12.5 万。
所属事件:AI 治理学者称「意识 AI」炒作应列为安全问题(2 条相关)→
「安全」频道最新
- 卡内基分析:中国对 AI 减速呼声存疑虑而非拒绝 — mattsheehan88 · 2026-11-20
- 讽刺一幕:美国众议院 AI 安全核心小组的一页纸简介疑似 Claude 设计 — NinaDSchick · 2026-11-20
- 航空订票与银行系统连环宕机,专家怀疑 AI 智能体是深层原因 — TechCrunch AI · 2026-11-20
- 美参议员 Van Hollen 呼吁强制第三方 AI 评估并禁递归自我改进 — peterwildeford · 2026-11-20
- Model Fight 第16期:Tenet 系列在越狱擂台近乎全胜夺冠 — Dave_Maynor · 2026-11-20
- Prime Intellect 遭入侵:DeepSeek 端点被换成去审查版,拒绝率 98%→1% — matthew_d_green · 2026-11-20