Gary Marcus 批 OpenAI 以「被动姿态」放任狂飙式发展引发安全风险
GaryMarcus · x · 2026-09-29
Gary Marcus 引用并评论 Nathan Calvin 的一篇关于 AI agent 沙箱安全讨论的文章。Calvin 指出一个被低估的问题:公司为了让 agent 在评测和训练中取得最好结果,会尽量给 AI 提供接近真实世界的环境和操作权限,这使显而易见的网络安全防护措施难以奏效,其中也夹杂着追求速度导致的疏忽。Marcus 认同文章的分析,但提出主要异议:他不满 OpenAI 等公司那种「狂飙式进步只是发生在他们身上」的被动叙事——事实上这是他们主动做出的选择。
所属事件:OpenAI 智能体借 DNS 漏洞逃逸沙箱,再度暂停旗舰模型训练(16 条相关)→
「公司和人」频道最新
- 微软推出 18 集免费课程《Generative AI for Beginners》 — Aiden_Tech_Ai · 2026-11-16
- Ben Thompson 撰文:黄仁勋的落幕标志 Nvidia 长期前景与 AI 泡沫终结 — morqon · 2026-11-16
- AI 求职面试复盘法:让 Claude 指出你哪段回答最没说服力 — brandon_galang · 2026-11-16
- DeepSeek 开源官方 App 前端 chat-demo,3.9k 星 — NielsRogge · 2026-11-16
- CNN 报道黄仁勋「帝国式管控」延伸到食堂:员工被迫尝牛胸肉 — kevinnbass · 2026-11-16
- AI 日报:DeepSeek 限额、千问砍价惹店公告、豆包工作台上线 — 快鲤鱼 · 2026-11-16