专题 · FULL STORY

纽约AI安全听证会：巨头作证与失控警告

纽约市议会宣布召开AI风险与安全听证会，OpenAI、Anthropic、Google、Meta四大巨头高管及前研究员出席作证。会上高管无法宣誓保证AI安全，前Anthropic研究员警告人类尚不知如何控制AI系统，引发持续关注。

2026-10-05 ~ 2026-10-06 · 4 集 · 17 条

第 1 集 · 四大 AI 巨头高管将出席纽约市议会听证(2026-10-05,3 条)

纽约市议会即将举行关于 AI 风险与安全政策的听证会，Anthropic、OpenAI、Google 和 Meta 四大 AI 公司高管均将出席作证。市议会议长 Julie Menin 表示将要求各公司作出说明。批评者 Gary Marcus 将到场作证并提前公开证词节选，前 Anthropic 研究员 Jacob Coxon 也将就纽约市考虑的新 AI 安全保障措施发言。听证会前一天，Politico 报道 Sam Altman 称「世界应接受这项技术」。

第 2 集 · 纽约市议会AI听证会：科技巨头无法宣誓保证AI安全(2026-10-05,7 条)

纽约市议会（Speaker Menin 主持）举行AI主题听证会，前OpenAI研究员Daniel Kokotajlo、Jacob Coxon等人出席。会后Gary Marcus围绕听证会内容连发多条评论，核心结论是：科技公司无法宣誓保证AI遵守安全指令，AI代码无人审查的现状令人担忧，而真正需要治理的是生成式AI。

已确认

  • 市议员Alexa Avilés要求科技公司高管宣誓作证，保证其AI系统会遵守安全指令——而他们做不到。Marcus据此评论称，这暴露了当前AI技术的深层缺陷。
  • OpenAI人士Morgan Dwyer曾在公开场合表示OpenAI可以承诺不发布自己认为不安全的模型，Marcus猛烈抨击这一说法「近乎伪证」，质疑OpenAI根本不会兑现。
  • Kokotajlo在听证会上重申：如今大部分代码已由AI编写，但审查把关远跟不上，叠加行业「快速行动、打破一切」的作风，整个行业正处于巨大风险之中。
  • 他还引用自己的判断：「我们察觉对齐问题的能力本已相当差，而且近期还会大幅恶化」。
  • Jacob Coxon等人的发言表达了对「把大量工作交给AI却不认真检查是不负责任的」的立场，Marcus对此明确认同。
  • Marcus质疑主持人「我们还不知道如何控制任何AI系统」的开场说法，指出并不准确——AlphaGo、GPS路由等许多AI系统并无控制难题。

为什么重要

  • 「无法宣誓保证AI遵守安全指令」是监管层面少见的直接证据，说明企业在正式作证场合也难以对自家AI的安全性作出承诺；Marcus对OpenAI「不发布不安全模型」承诺的抨击进一步质疑了企业自律的可信度。
  • Marcus的修正将讨论从笼统的「AI不可控」聚焦到生成式AI这一具体风险源，他主张该暂停的是生成式AI而非所有AI。
  • 「AI写码、无人细查」若属实，意味着软件质量与安全风险正在系统性累积，且从业者自评对齐检测能力还在恶化，这为监管介入提供了听证会层面的一手证言。

第 3 集 · 纽约市议会连办AI安全听证会 前沿实验室吹哨人警告失控风险(2026-10-05,4 条)

纽约市议会于10月5日起举行大型AI安全保障听证会并在线直播，共设14个证人小组，OpenAI、Anthropic、Google、Meta四大科技公司代表与安全专家、吹哨人同场作证，接受长达数小时的质询。前OpenAI政策研究员Miles Brundage等多位研究者登台。前沿实验室吹哨人Jacob Coxon等人警告称，行业正走在开发出极强能力AI系统的轨道上，但对这些系统的控制进展远未跟上，AI能力存在失控风险。

第 4 集 · 前Anthropic研究员纽约听证警告人类恐失控AI(2026-10-06,3 条)

前Anthropic研究员Jacob Coxon在纽约市AI「kill switch」听证会上向市议员作证，称人类目前还不知道如何控制任何AI系统，并警告依赖AI「杀死开关」存在风险、人类可能失去对AI的控制。纽约市正酝酿立法强制AI模型接受外部验证，未经验证即销售每次将被罚款2.5万美元。