Gary Marcus 力挺佛州禁令:OpenAI 无力自我监管,需立即叫停
Gary Marcus · rss · 2026-09-29
Gary Marcus 在博客中评论两大动态:
- 佛州诉 OpenAI:佛州总检察长寻求临时禁令,阻止 OpenAI 继续开发前沿模型。Marcus 表示强烈赞同「OpenAI 没有能力 properly 监管自己的技术」这一判断,称这与他从数周以来一直建议的「暂停 OpenAI」一致,并呼吁每个州和国家跟进。「佛州明白了,我们现在就需要禁令」,否则等于在赌俄罗斯轮盘赌。
- NVIDIA 发布「AI Agent Safety」平台:Marcus 认为这隐含承认了「我们确实该担心」,是应对「有联网权限的通用 agent 日益失控」的重要一步,但他持保留态度——NVIDIA 此前发布的 Nemoclaw 等软件影响甚微,被朋友形容为「公关软件」。他欣赏把关键安全交给确定性符号代码而非 LLM 本身的设计选择,并提到 Andrew Ng 对此持乐观态度。
结论:靠新软件包来拯救可能来不及,重大 AI 基础设施事故风险真实存在。
「安全」频道最新
- 美国 BIS 新规封堵境外远程调用先进 AI 芯片的漏洞 — apples_jimmy · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16