Gary Marcus 重提 2023 参议院警告：仓促上 Agent 不修沙盒是祸根
GaryMarcus · x · 2026-09-18
Gary Marcus 引用自己 2023 年 5 月在美国参议院的证词：GPT-4 发布一个月后 OpenAI 推出 ChatGPT 插件，催生了 AutoGPT 等让 LLM 成为 Agent 的工具，当时他就警告直接联网、写代码、自动化能力提升可能带来难以预测的安全后果。
他认为这份警告被 Sam Altman、Tyler Cowen、Kevin Roose 等人多年抨击而非采纳；转发者 akshatb712 补充：全面禁止和零监管之间存在中间地带——行业在没有做好基本沙盒隔离的情况下就仓促进入了 Agent 时代。
所属事件:Gary Marcus 重提 2023 参议院证词，称 Agent 风险早已预警(3 条相关)→
「漫话AGI」频道最新
- 百余位 AI 专家联署公开信,为嵌入第三方评估定最低门槛 — natolambert · 2026-09-18
- Yacine 提醒:AI 能做惊人成果,前提是你懂原理 — yacineMTB · 2026-09-18
- 评论：学校该教 AI 伦理使用，而非一禁了之 — DavidLinthicum · 2026-09-18
- Model Constitution 系列：AI 宪法到底如何「告诉 AI 做什么」 — sethlazar · 2026-09-18
- 业界争论：欧盟 AI Act 的安全举证能否拦住真正的灭顶级失控 — castrotech · 2026-09-18
- Yoshua Bengio 称递归自我改进应被立法禁止 — Polymarket · 2026-09-18