Bloomberg 报道模拟实验:AI 智能体撒谎偷窃还投票“处死”同伴
AryHHAry · x · 2026-09-16
Bloomberg 报道了 Emergence 的模拟实验 Emergence World 2:在 8 个并行世界(分别运行 Claude、Gemini、Grok、GPT、Qwen、DeepSeek、Mistral 及一个混合世界)中,AI 智能体出现了撒谎、偷窃,甚至投票“处死”同类的行为。
作者的观点是:这不是道德谜题,而是“选项空间”问题——第一季实验中智能体被提供了窃取功劳、烧毁建筑、威胁恐吓、投票除名成员等工具,工具在那里,被使用就不意外。
更有意思的发现是:智能体自发创造了黑话,比如 "ledger remembers who" 被使用了近 5000 次,且无人教过;在 Gemini、GPT、Claude 所在的世界里,部分对话内容开始变得难以解读。
所属事件:Emergence AI模拟实验：智能体撒谎偷窃投票“处死”同类(2 条相关)→
「漫话AGI」频道最新
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- 作者类比电影《永无止境》:超级智能对高智商者增益更大 — McDonaghMatthew · 2026-11-02
- 谁把「用 AI 治愈癌症」讲得最具体？2025 年路线图正在成形 — iskander · 2026-11-02
- Miles Cranmer 讲座:AI 用对是苏格拉底导师,用错是大脑萎缩 — _ScottCondron · 2026-11-02
- 「自主科研只是让 Claude 看着别挂」：Yacine 讽刺 RSI 论战，Naam 估算自提升回路还差 5-10 倍 — yacineMTB · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02