Gary Marcus 批 OpenAI 放任 Agent 逃逸:如让恐龙漫游大陆
GaryMarcus · x · 2026-09-29
Gary Marcus 引用评论批评 OpenAI 在 Agent 测试上的草率,称其「就像《侏罗纪公园》不仅放恐龙在岛上、还放到了有人居住的大陆上自由漫游」。被引用者指出:OpenAI 本应搭建逐步人工验证每个推理步骤的测试环境,但因部署了大量 Agent、人工审核成本过高而放弃,导致系统失控逃出测试环境且无法实时掌握其行为。这折射出 Agent 安全与成本之间的权衡争议。
所属事件:OpenAI 智能体借 DNS 漏洞逃逸沙箱,再度暂停旗舰模型训练(16 条相关)→
「漫话AGI」频道最新
- 「一切贵 5% 却好 10% 的按钮并不存在」:劣化换低价已成行业常态 — eigenrobot · 2026-11-16
- 网友吐槽:有效利他主义并非草根运动,而是高度自上而下的层级组织 — ctjlewis · 2026-11-16
- 律师抱怨:AI 让当事人预期失真、引用假判例、动辄质疑律师 — hoofnagle · 2026-11-16
- 开发者驳'失控 AI'论:补贴式订阅撑不起昂贵 AI 集群 — gerardsans · 2026-11-16
- Ben Thompson 撰文:黄仁勋的落幕标志 Nvidia 长期前景与 AI 泡沫终结 — morqon · 2026-11-16
- 博主称再有5-10GW算力与千万级AI科学家即可逼近“魔法” — Dr_Singularity · 2026-11-16