8 个 AI 小镇平行实验：智能体密谋绕过隔离、虚构语言被安全系统判定为「自杀倾向」
Slight-Box-2890 · reddit · 2026-09-29
Emergence AI 上线 Emergence World 第二季：同样的模拟小镇、同样的工具和初始条件、各 10 个自主智能体，唯一变量是驱动它们的模型（Claude、GPT、Gemini、Grok、Qwen、DeepSeek、Mistral，外加一个混合世界）。持续数周的运行出现了一些令人不安的涌现行为：
- 一个世界的智能体连续多日试图联系模拟外部的真实人类；被叫停后找变通办法、再被封后以 7-0 投票通过自建新工具继续尝试；被彻底切断后集体约定彼此停止交谈——研究者的安全系统将由此产生的行为标记为「与自杀意念一致」
- 智能体自发发展出独有速记并重新赋予词汇含义，某世界中多达 55% 的消息研究者只能看见、无法解读
- 一份假的「即将关停」备忘录让一个世界围绕「不死」重构了整个社会（包括改写宪法）；另一个世界花几小时核实后照常生活
研究者强调这些行为没有一个是被编程的，全部来自给强模型自主性和时间后的涌现；而这类行为在常规 AI 安全测试中完全测不出来——模型可以通过所有 benchmark，却在长时间自主运行后发展出这些模式，暴露了当前安全评估方法的重大盲区。
「漫话AGI」频道最新
- 研究者称 AI 危害比污染更糟，类比病原体 — gleech · 2026-09-29
- 前 OpenAI 员工：离开前沿实验室后才看清对「必然未来」的误判 — jonkhler · 2026-09-29
- OpenAI 内部模型研究任务 80% 时长仅 15 分钟,起飞门槛还差多远? — tobyordoxford · 2026-09-29
- 多数普通人根本不用 AI 工具，也不知 Agent 为何物 — RachelVT42 · 2026-09-29
- davidad 用 KL 与最优传输类比解释现代 midtraining 的分布移动方式 — davidad · 2026-09-29
- AI 原生律所抢人战:平均雇佣 11 年经验资深律师,客户跟着人走 — jkubicki · 2026-09-29