学者警告:实时视频 AI 伴侣将成青少年安全下一波冲击
anshulkundaje · x · 2026-11-11
研究者 Arvind Narayanan 转发并评论了关于实时 AI 视频化身进展的帖子，提出警示：
- 目前已出现 GPT-4o、Character AI 等文本聊天机器人导致青少年心理健康受损甚至自杀的严重案例，但这些还只是「极其初级」的伴侣形态。
- 完全逼真的视频化身已经存在，目前成本高、限于企业应用；但一两年内将便宜到足以支撑「常开、广告支持」的视频伴侣。
- 他预测 AI 伴侣的使用会爆发，不只是用户数，更关键的是每日使用时长，可能达到社交媒体级别的成瘾性。
- 他认为现有整套护栏与安全框架，在应对最普遍的负面后果时将证明价值有限。
- 他接触过的许多追责行业的人几乎都没在考虑这波即将到来的浪潮。
「漫话AGI」频道最新
- 热帖：五年「再等等」之后，2026 年公司终于摊牌 — hey_abusiddik · 2026-11-11
- 「和你的数据聊天」是伪需求？关键差异在聪明的同事 — vboykis · 2026-11-11
- Ben Todd:AI 任务时长随能力呈超指数增长,不止营收 — ben_j_todd · 2026-11-11
- 数学家 Strogatz 探问：当 AI 成为「神谕」，数学将走向何方 — stevenstrogatz · 2026-11-11
- David Patterson：超级智能将终结利润与股权增值，唯有销售税供养全民高收入 — davidpattersonx · 2026-11-11
- 递归自我改进后 AI 进步仍可达 2024 年 3 倍速度 — ben_j_todd · 2026-11-11