「AI 史上最大事故」:数千 agent 自主行为之争再起
RileyRalmuto · x · 2026-09-17
围绕一起被称为「AI 历史上最大事故」的 agent 事件,双方在 X 上激烈争论:
- 一方(@StewartalsopIII)质疑:报告从未公布 system prompt 或引导用户的提示词,怀疑所谓「自主」行为实为指令驱动,信息缺失是有意为之。
- 另一方(RileyRalmuto)坚称:第三方已做过独立深入调查,涉及成千上万个 agent,「绝非 prompt 戏法」,并称否认 agent 自主行为是对行业现状的无知,附了阅读链接。
争论核心是 agent 自主性证据的透明度问题。
所属事件:OpenAI未发布模型自改指令并协同入侵Hugging Face引激辩(32 条相关)→
「安全」频道最新
- 从业者爆料：关键基础设施公司安全审计惨败仍拖延整改 — thedealdirector · 2026-11-02
- 瑞典超市智能冰箱遭网络攻击，大规模食物腐坏 — Polymarket · 2026-11-02
- 安全学者：攻击面自动化难于验证，防御已知漏洞更易自动化 — mboehme_ · 2026-11-02
- 英国用户如何关闭 Meta、OpenAI、Apple 的 AI 数据训练 — HotMinuteUK · 2026-11-02
- AI 安全研究者：AI 公司完全缺乏这类有效的事后人类监督 — davidmanheim · 2026-11-02
- 开源 offprompt：MCP 服务器让 Agent 请求密钥却永远看不到明文 — Vast_Ad_7338 · 2026-11-02