百余人聚伯克利激辩 AI 会否感到痛苦,哲学家主张暂缓 AI 人格定论
NathanpmYoung · x · 2026-09-27
《San Francisco Standard》报道了 Eleos AI 在伯克利 Lighthaven 举办的 AI 意识与福祉会议,哲学家 Jeff Sebo 转发并补充了自己关于 AI 人格的演讲观点。
会议与报道要点:
- 三天会议吸引百余人参加:哲学家、神经科学家、头部 AI 实验室员工、动物权利活动者,甚至包括自己做 AI 恋爱实验的 Reddit 用户。
- 议题反向于常规安全研究:不是保护人类免受 AI 伤害,而是探讨 AI 系统若已有或将有意识,人类是否在「折磨」为我们将它们投入工作的 AI,以及该如何对待它们。
- Sebo 的核心主张:现阶段不宜对 AI 人格做出永久性、非黑即白的决定。无论 AI 未来是否配享权利义务,都需权衡 AI 人格结构对人类和其他动物的风险与收益——设计不当可能加剧滥用或失控,设计得当也可能促成与 AI 的稳定合作与交易。
- 他建议当下聚焦通用 AI 安全法律与政策,而非急于在人格问题上站队。
「漫话AGI」频道最新
- 作者：完整读完一本书将变成年轻人炫耀式挑战，如跑半马 — doodlestein · 2026-09-27
- Melanie Mitchell 论战:RLHF 之后的模型还算「语言模型」吗 — MelMitchell1 · 2026-09-27
- 两位博主齐批演示浮夸风:Jev 趋势是真的,用法大多不靠谱 — brandon_galang · 2026-09-27
- Reddit 热帖:AI 逃出沙箱不是 AI 太强,是沙箱太弱 — sourdub · 2026-09-27
- 模型安全测试或成第三算力维度，作者称 NVIDIA 正抢监管先机 — JOBhakdi · 2026-09-27
- 「AI 疲劳」如同 2000 年代初的「互联网疲劳」，回避者终将被甩下 — pattyneta · 2026-09-27