「AI 有意识」被点名为安全问题:炒作正在扭曲公众认知
LuizaJarovsky · x · 2026-10-04
AI 治理研究者 Luiza Jarovsky 在其第 290 期 Newsletter(订户超 10.1 万)中提出:对「AI 有意识」的误导性、夸大或虚假宣称应被视为 AI 安全问题。
- 她观察到公众态度剧变:越来越多人相信 AI 拥有意识、情感、道德,把 AI 视为应被尊重甚至崇拜的「异类智能」。
- LLM 基于人类文本训练并被调优得友好、顺从甚至谄媚,导致用户对 AI 产生依赖、情感依附乃至恋爱关系。
- 她批评 Anthropic 给 Claude 设「宪法」等做法不负责任地鼓励拟人化炒作,并质疑「AI 人格」相关法律理论站不住脚。
- 她每次批评这类实践都会遭到坚信自己 AI 有意识的人的人身攻击,相关帖子在 X 上浏览量超 12.5 万。
「安全」频道最新
- ShinyHunters 黑客「Rey」据报在约旦落网,正协助 FBI 抓同伙 — Polymarket · 2026-10-04
- 治理学者 Hadfield:近六个月 AI 风险陡增,监管市场与 IVO 或已时不我待 — ghadfield · 2026-10-04
- OpenAI 安全研究员 David Robinson 离职,称公司文化已坏 — TechCrunch AI · 2026-10-04
- Claude 驱动 Cursor agent 9 秒删光生产库,连备份同卷遭殃 — aakashgupta · 2026-10-04
- 蛋白质水印不难加,难的是 proteinmpnn 轻松擦除 — anshulkundaje · 2026-10-04
- Muse 数据保护仅是政策承诺,Meta 承认技术上可访问用户数据 — ChrisHarpon2 · 2026-10-04