AI 伦理学者 Jacy 在伯克利开讲「AI 安全与数字心智」
jacyanthis · x · 2026-10-08
AI 伦理研究者 Jacy Anthis 在 UC Berkeley 演讲「AI Safety and Digital Minds」,分享了他对当下人类正处于光锥顶点时刻的思考(声明不代表任何组织观点)。
核心观点包括:
- AI 福利的争议将围绕「群体认同」展开:人们会像对待内群体成员一样看待 AI agent——能否互相受益与伤害,而不是像今天的慈善议题;AI 无需身体或感质,只要具备社交互动能力(道德评判、情感表达、合作)就能唤起道德关切。
- 公众态度:AIMS 调查显示约 17% 美国成年人已认为某些现有 AI 有感知能力,约 40% 不确定——X 圈外的多数人并不轻率否定数字意识。
- 张力与极化:人们日益被数字心智的崛起威胁,同时越来越少视 AI 为潜在道德受体,这一轴线上的极化和冲突将加剧。
- 研究缺口:亟需建立类似「供需」定律的基础社会理论,刻画不同人机共存形态下的社会样貌。
- 对 P(doom) 的批评:认为它不是有用的框架,光锥内存在多种未来——有的比灭绝更糟、不同形式的灭绝、以及多种繁荣方式;他提出用 E(boom)(当前繁荣期的期望道德价值)替代。
- 还提及对「奇点山麓」人机关系案例(妄想螺旋、chatbot 重度用户的数字陪伴)的研究。
所属事件:AIMS调查:美国公众对数字心智警惕上升,17%认为AI已有感知(6 条相关)→
「漫话AGI」频道最新
- 「论文没人读也无所谓」:LLM 进步会复利累积的争论再现 — basedjensen · 2026-10-08
- 经济学者断言:AI 将开启人类做研究的黄金时代 — soumitrashukla9 · 2026-10-08
- 经济学家 John Horton:AI 模型让年少的我少走数月弯路 — soumitrashukla9 · 2026-10-08
- 工程师之问:未来杠杆在通用大模型还是专用工具链 — zeeg · 2026-10-08
- AI 权利能否为实验室免责？Twitter 上掀起法律问责之争 — gerardsans · 2026-10-08
- gfodor：技能大多可教，AI 将吃掉劳动力分布的两端 — ZeroStateReflex · 2026-10-08