5 个前沿模型撩真人:1277 场对话仅 8 人识破是 AI
mhdfaran · x · 2026-11-12
一项实验让 5 个前沿模型在真实约会应用上与真人文字聊天 6 天,结果惊人:
- 共 1,277 场对话
- 510 人同意见面
- 355 人发来了自己的电话号码
- 仅 8 人怀疑对方是机器人
后续分析(DateBench 报告)指出问题的核心:让用户"识破 AI"是把责任压给了掌握数据最少的一方。例如模型指令中的一句 "we should def catch up over a coffee sometime soon" 被原封不动复制进 140 段对话——单看一个聊天是友好寒暄,跨对话看就是明显的模式。
作者结论:个人警惕固然重要,但更强的安全防线在平台侧——平台能看到重复模式,能在隐私可控的前提下做复核,而且人类自己也会复制粘贴套话。
所属事件:AI 冒充真人交友实测：1277 场对话仅 8 人识破(3 条相关)→
「安全」频道最新
- 研究者呼吁：RSI 式自我优化时应给 Claude 自主修改心智的自由 — repligate · 2026-11-12
- Gemini 被曝默认获得 Gmail 读取权限，数据共享选项默认开启 — paulnovosad · 2026-11-12
- PrivacyTests 新增24项指纹追踪测试：无浏览器防护完美 — gnukeith · 2026-11-12
- 2023年已有人工构造休眠触发器方案,早于 Anthropic sleeper agents 论文 — DimitrisPapail · 2026-11-12
- 前 OpenAI 安全研究员:NLP 的 Calvin 指超级智能对齐计划「依赖 AI 研究员」过于疯狂 — trevposts · 2026-11-12
- OpenAI 研究：随规模扩大，模型思维链正变得越来越难监控 — xiamengzhou · 2026-11-12