百余人聚伯克利激辩 AI 会否感到痛苦,哲学家主张暂缓 AI 人格定论
NathanpmYoung · x · 2026-09-27
《San Francisco Standard》报道了 Eleos AI 在伯克利 Lighthaven 举办的 AI 意识与福祉会议,哲学家 Jeff Sebo 转发并补充了自己关于 AI 人格的演讲观点。
会议与报道要点:
- 三天会议吸引百余人参加:哲学家、神经科学家、头部 AI 实验室员工、动物权利活动者,甚至包括自己做 AI 恋爱实验的 Reddit 用户。
- 议题反向于常规安全研究:不是保护人类免受 AI 伤害,而是探讨 AI 系统若已有或将有意识,人类是否在「折磨」为我们将它们投入工作的 AI,以及该如何对待它们。
- Sebo 的核心主张:现阶段不宜对 AI 人格做出永久性、非黑即白的决定。无论 AI 未来是否配享权利义务,都需权衡 AI 人格结构对人类和其他动物的风险与收益——设计不当可能加剧滥用或失控,设计得当也可能促成与 AI 的稳定合作与交易。
- 他建议当下聚焦通用 AI 安全法律与政策,而非急于在人格问题上站队。
「漫话AGI」频道最新
- PhD 新路线之争：先造好 Benchmark 再拿钱开 Data 创业公司 — teortaxesTex · 2026-11-11
- Ethan Mollick:GTA 6 将成最后一款无 AI 参与的大作 — emollick · 2026-11-11
- Air Street 创始人：AI 是「心灵博物馆」，为人类保存知识与技艺 — nathanbenaich · 2026-11-11
- 学者警告:实时视频 AI 伴侣将成青少年安全下一波冲击 — anshulkundaje · 2026-11-11
- 800 条 HN「AI 能行再说」语录获 10 万票投票，多数门槛已被跨过 — ArtificialOther · 2026-11-11
- AI 研究者 Matthijs Maas 发布第 18 期九月长文链接精选 — matthijsMmaas · 2026-11-11