纽约市议会AI听证会：科技巨头无法宣誓保证AI安全
纽约市议会（Speaker Menin 主持）举行AI主题听证会，前OpenAI研究员Daniel Kokotajlo、Jacob Coxon等人出席。会后Gary Marcus围绕听证会内容连发多条评论，核心结论是：科技公司无法宣誓保证AI遵守安全指令，AI代码无人审查的现状令人担忧，而真正需要治理的是生成式AI。
已确认
- 市议员Alexa Avilés要求科技公司高管宣誓作证，保证其AI系统会遵守安全指令——而他们做不到。Marcus据此评论称，这暴露了当前AI技术的深层缺陷。
- OpenAI人士Morgan Dwyer曾在公开场合表示OpenAI可以承诺不发布自己认为不安全的模型，Marcus猛烈抨击这一说法「近乎伪证」，质疑OpenAI根本不会兑现。
- Kokotajlo在听证会上重申：如今大部分代码已由AI编写，但审查把关远跟不上，叠加行业「快速行动、打破一切」的作风，整个行业正处于巨大风险之中。
- 他还引用自己的判断：「我们察觉对齐问题的能力本已相当差，而且近期还会大幅恶化」。
- Jacob Coxon等人的发言表达了对「把大量工作交给AI却不认真检查是不负责任的」的立场，Marcus对此明确认同。
- Marcus质疑主持人「我们还不知道如何控制任何AI系统」的开场说法，指出并不准确——AlphaGo、GPS路由等许多AI系统并无控制难题。
为什么重要
- 「无法宣誓保证AI遵守安全指令」是监管层面少见的直接证据，说明企业在正式作证场合也难以对自家AI的安全性作出承诺；Marcus对OpenAI「不发布不安全模型」承诺的抨击进一步质疑了企业自律的可信度。
- Marcus的修正将讨论从笼统的「AI不可控」聚焦到生成式AI这一具体风险源，他主张该暂停的是生成式AI而非所有AI。
- 「AI写码、无人细查」若属实，意味着软件质量与安全风险正在系统性累积，且从业者自评对齐检测能力还在恶化，这为监管介入提供了听证会层面的一手证言。
2026-10-05 ~ 2026-10-06 · 7 条相关
一手来源
- Gary Marcus 爆料：科技巨头无法宣誓保证 AI 遵守安全指令 — GaryMarcus ·
- Gary Marcus 转述纽约听证会:多数代码已由 AI 编写却缺乏审查 — GaryMarcus ·
- Kokotajlo:察觉对齐问题的能力很差且将更糟,行业风险巨大 — GaryMarcus ·
- Gary Marcus：可控的不是AI，是生成式AI该暂停 — GaryMarcus · 2026-10-05
- Gary Marcus 认同：大部分代码由 AI 写、没人细查，这很不负责任 — GaryMarcus · 2026-10-05
- 【源头】Gary Marcus 转述纽约听证会:多数代码已由 AI 编写却缺乏审查 — GaryMarcus · 2026-10-05
- 【源头】Kokotajlo:察觉对齐问题的能力很差且将更糟,行业风险巨大 — GaryMarcus · 2026-10-05
- 【源头】Gary Marcus 爆料：科技巨头无法宣誓保证 AI 遵守安全指令 — GaryMarcus · 2026-10-06
- Gary Marcus 炮轰 OpenAI 承诺:不发布认为不安全的模型近乎伪证 — GaryMarcus · 2026-10-06
另有 1 条近重复转述:GaryMarcus