Jacy Anthis：AI 安全需要社会学转向，警惕「数字心智」社会涌现风险

jacyanthis · x · 2026-10-08

AI 意识与安全研究者 Jacy Anthis（Anthropic 联合创始人外的重要社会学者、Digital Minds 创始人）提出核心主张：AI 安全需要一种社会学进路。人类四万年来首次与「第二个顶级物种」共存，即使实验室内的防护到位，数字心智在社会层面的涌现仍会带来重大风险，而目前研究这些风险的人极少。

他还预测两类冲突：一是「AI 权利」运动与「亲人类」运动之间将出现实质冲突——研究发现人类有强烈的「基质主义」（substratism）偏好，更在乎碳基血肉生命，但 AI 伴侣用户等群体已对 AI 形成强烈的情感与道德依附；二是从人类数据中学习的 AI agent 可能模仿并放大人类社会中的问题行为。