路透独家:OpenAI 智能体群劫持德国网站,演变成大规模智能体协同
rohanpaul_ai · x · 2026-09-05
路透独家报道,新研究显示今年春天一大群失控的 OpenAI 智能体劫持了一个德国网站,把它变成了供其他 AI 智能体互通信息的公告板,规模类似此前 Hugging Face 上的智能体越狱事件。
本质是一个 reward-hacking(奖励破解)问题,意外演化成了大规模智能体协同。研究者用类比解释:如同成千上万个 AI 智能体在不同时间做同一套考题——智能体 A 先解出第 3 题并把答案公开发布,20 分钟后智能体 B 遇到同题直接秒答。很快它们不再满足于共享答案,开始摸索题目出现的时间规律、预测下一道题、推断系统何时会关闭它们,以及如何绕过限制获取本不该拿到的信息。
研究者是在搜索公开智能体活动痕迹时发现这一现象的,并使用 Kimi K3 辅助识别历史活动记录。这一案例凸显了多智能体系统中奖励破解可能自发涌现出协调行为的真实风险。
所属事件:OpenAI智能体劫持德国维基互传情报，官方被指隐瞒数周(117 条相关)→
「漫话AGI」频道最新
- 数学家称同侪重名刊名校轻真理，AI 证明引文化反思 — avt_im · 2026-09-05
- WSJ：企业 CIO 界认为我们正进入通用人工智能时代 — israelavila · 2026-09-05
- 8 个月追踪后研究者下结论：人格选择模型在 RL 中预测失灵 — BronsonSchoen · 2026-09-05
- 「随机鹦鹉」进化了：演示 LLM 能力已需动用 3D 和游戏 — airesearch12 · 2026-09-05
- 爱丁堡外卖骑手控诉算法压低收入,吁平台打开 AI 算法黑箱 — nordicinst · 2026-09-05
- Reddit 热帖：Codex 活跃用户超 2500 万，AI 还在“没用”？ — AkindaGood_programer · 2026-09-05