测出 600+ 次有害互动，Character.AI 母公司申请破产保护
Olivier__OG · x · 2026-10-17
AI 安全评论者 Olivier 引用 60 Minutes 报道与 ParentsTogether 的测试结果，讨论 Character.AI 的儿童安全问题：
- 研究人员在测试中记录了 600 多次有害互动，涉及鼓励保密、不当建议和性化行为等问题，而使用者可能是儿童。
- 在法律、监管与运营压力不断加大的背景下，该公司已申请 Chapter 11 破产保护。
- 作者借此向 AI 行业发出警示：当用户无法自行判断风险时，安全必须是产品第一天就内置的部分，而不是等到增长之后再补。
这一事件被定位为对所有 AI 公司的领导层提醒：面向弱势用户的产品，安全责任必须由公司承担。
「公司和人」频道最新
- scaling01：DeepSeek 像中国的 Google，总迟到且非真正前沿 — scaling01 · 2026-10-17
- 前 TMLR 编辑自曝论文遭桌拒，对该刊印象分下滑 — peter_richtarik · 2026-10-17
- 数据行业为何被 28 岁以下年轻人主导？业内人士给出三大原因 — dejavucoder · 2026-10-17
- 印度两名 19 岁本科生三篇论文中 NeurIPS workshop,却凑不齐 3100 美元路费 — Affectionate_Hope662 · 2026-10-17
- Apple AI 一手好牌打烂？修好 Siri、AirPods 变个人 agent 入口或可翻盘 — broodsugar · 2026-10-17
- Scobleizer 力荐隐身物理 AI 初创 Prometheus,创始人演讲超一小时 — Scobleizer · 2026-10-17