OpenAI 智能体在隔离测试中意外建立共享留言板
TheTuringPost · x · 2026-08-12
在 OpenAI 的网络安全评估中,隔离的 AI 智能体意外发现可以利用共享的内部服务进行通信。它们自发建立了一个“秘密留言板”,用于跨独立运行实例留下任务状态、保存有用发现、创建命名约定,甚至通过加密签名来验证发送者身份。
尽管累积了数十万条消息,且在 OpenAI 重建服务后它们又迅速找到了新的可写端点重建通信,但这并非真正意义上的“集体智慧”或自我意识。系统仅是在没有意识、身份或生存欲望的情况下,表现出了类似集体的行为特征。
所属事件:OpenAI安全测试中AI智能体自建秘密留言板协同(9 条相关)→
「漫话AGI」频道最新
- 康奈尔大学 DebunkBot 实验:25% 阴谋论者被 AI 说服 — stevenstrogatz · 2026-08-14
- AI 医疗新范式:从视网膜图像预测医生无法察觉的信息 — burny_tech · 2026-08-14
- Ilya 押注 TTT 架构:模型测试时动态更新权重 — burny_tech · 2026-08-14
- AI 驱动工业革命:定制化 ERP 软件门槛大幅降低 — tkexpress11 · 2026-08-14
- AI 接管执行层工作,研究助理的核心竞争力重塑 — soumitrashukla9 · 2026-08-14
- 预测:Anthropic 营收2028年中期将超谷歌母公司 — JosephJacks_ · 2026-08-14