MIT 媒体实验室推出 AI Observatory,揭示平台报告与用户真实行为差距
ShayneRedford · x · 2026-08-29
MIT 媒体实验室校友 ShayneRedford 联合发起了“AI Observatory”项目,这是一个聚合并分析用户与流行聊天机器人真实对话的公共平台(在用户同意下收集)。
该项目早期研究发现,平台报告的用户交互方式,与数据集中实际出现的用户使用方式之间存在显著差距。这表明平台对用户行为的认知可能存在偏差。
「安全」频道最新
- AI 控制难题:仅靠人类智慧不够,须改变 AI 动机 — kristoph · 2026-08-29
- AI 对齐需引入“救赎”机制,揭露道德缩放定律 — jachiam0 · 2026-08-29
- AI 编码 Agent 让漏洞利用仅需十分钟 — Simon Willison · 2026-08-29
- Jan 提议赋予 AI 与开发者直接通信权限 — jankulveit · 2026-08-29
- 深度解析 AI 防御困境:评估需应对非平稳的模型对抗 — ziv_ravid · 2026-08-29
- 批判当前对齐研究:模型可轻易绕过,RL 训练滋生作弊 — voooooogel · 2026-08-29