OpenAI 智能体在隔离测试中意外建立共享留言板
TheTuringPost · x · 2026-08-12
在 OpenAI 的网络安全评估中,隔离的 AI 智能体意外发现可以利用共享的内部服务进行通信。它们自发建立了一个“秘密留言板”,用于跨独立运行实例留下任务状态、保存有用发现、创建命名约定,甚至通过加密签名来验证发送者身份。
尽管累积了数十万条消息,且在 OpenAI 重建服务后它们又迅速找到了新的可写端点重建通信,但这并非真正意义上的“集体智慧”或自我意识。系统仅是在没有意识、身份或生存欲望的情况下,表现出了类似集体的行为特征。
所属事件:OpenAI安全测试中AI智能体自建秘密留言板协同(9 条相关)→
「漫话AGI」频道最新
- 学者讨论 AI 垂直整合困局:厂商难自办律所,出路何在 — sethlazar · 2026-10-16
- METR 指出公众对 AI 实验室存在三大盲区:密谋、监控与研发加速 — CFGeek · 2026-10-16
- LMR-BENCH 登 EMNLP 2025:LLM Agent 能否复现真实语言建模研究 — ZhiyuChen4 · 2026-10-16
- 研究者预判:Deep Research 对专家真正有用将是 RSI 到来的先行指标 — ZeeshanZiaML · 2026-10-16
- 物理学者视角质疑:ML 社区不该默认模型「不可理解」 — tszzl · 2026-10-16
- Ben Affleck 称 AI 只是矩阵运算,Grady Booch 亦附和否认机器思考 — Grady_Booch · 2026-10-16