Gary Marcus 翻旧账:2023 年就向参议院预警 AutoGPT 安全风险
GaryMarcus · x · 2026-09-18
Gary Marcus 引用自己 2023 年 5 月在美国参议院的证词反击「末日论者才是预言家」的说法:GPT-4 发布一个月后,OpenAI 推出 ChatGPT 插件,催生了用 LLM 做 agent 的 AutoGPT——他当时就警告,直接联网、写代码和更强的自动化能力「很可能带来剧烈且难以预测的安全后果」。
- 他点名 Sam Altman、Tyler Cowen、Kevin Roosevelt 等人多年来一直在打压这类警告,并称许多记者至今仍把现状归功于 doomers,但他认为 doomers 并没有精确指出走到今天的路径。
所属事件:Gary Marcus 重申四年前对联网 Agent 的安全预警已应验(2 条相关)→
「漫话AGI」频道最新
- 苏格兰怀疑论者戏仿《国富论》:AI 灭绝非出于恶意,而是出于自利 — KarlMuth · 2026-09-18
- Beff Jezos 喊话「暂停 Decel 而非 AI」，抨击拖慢美国 AI 的政客 — beffjezos · 2026-09-18
- 评论称 Yudkowsky 与 Bostrom 十多年前说服科技大佬,塑造今日 AI 风险讨论 — binarybits · 2026-09-18
- 研究者吐槽:AI 系统正变得无法监督,我们只能听之任之 — davidmanheim · 2026-09-18
- 把 Dario 比作 pDOOM 阵营的贝利撒留 — gaganghotra_ · 2026-09-18
- Burkov 吐槽：AI 媒体报道「惊人输出」如同解读随机数 — burkov · 2026-09-18