Altman、Amodei 与 Bengio 首次同赴联合国安理会共议 AI 治理

9月24日，联合国安理会（第10228次会议，议题为「AI与国际安全」）首次就人工智能议题召开会议。OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei 分别作证，图灵奖得主、联合国AI独立科学小组联席主席 Yoshua Bengio 同场发言。前沿实验室负责人罕见地在最高国际治理场合集体发声，呼吁全球协调AI治理，但批评声音也随之而来。

已确认

• Altman 在发言中提出两层担忧：其一，随着系统可自我改进、构建AI的过程日益自动化，进步速度可能急剧加快，人类可能「把未来输给AI」——发展太快导致人们跟不上、无法在需要时干预；其二，没有任何个人、公司或国家应被允许用最强大的AI谋取垄断。他称这一刻需要「极端谨慎」（Extreme Care）。
• Altman 还警告：一家自认为只有自己能被信任掌握最强AI的公司，会用这种信念正当化几乎任何行为；0.1% 的灾难概率不应比 10% 更可接受。发帖人 victorexplore 评论称这实际上描述了所有AI厂商兜售的叙事。
• Altman 透露 OpenAI 过去曾单方面主动放缓AI开发速度，并表示未来还会这么做。
• Altman 同时试图在极端间找平衡：既拒绝盲目乐观也不当末日论者，称一些从业者言论「像烂科幻电影的情节」。
• 据CNN与《纽约时报》报道，Altman 与 Amodei 呼吁安理会采纳国际性AI标准与监管框架，称AI的风险担忧并非空穴来风，其发展让收益更具体、也让风险更迫近，缺乏全球治理将产生危机。
• Amodei 提出具体机制建议：Anthropic 已承诺让外部评估员以类似「食品检查员」的身份常驻公司内部，拥有近似员工的系统访问权限，并建议全球其他AI公司采取同样做法。他还强调 Anthropic 在安全防范上是业内佼佼者，安全报告动辄数百页；评论者 teortaxesTex 调侃这是借安理会舞台力推自家安全实践。
• Bengio 受邀警示无法控制的前沿AI智能体构成的「前所未见的威胁」，将当前时刻类比为人类曾成功管理灾难性风险的历史节点，称其远超任何个人、商业或国家利益。

尚未确认

• Altman「主动放缓」的说法仅有其单方面自述，具体所指项目与时间未披露。

为什么重要

• 这是两大前沿实验室掌门人首次同日登上安理会舞台，标志行业头部对国际监管框架态度的转变，将AI治理呼吁推到最高国际层级；Amodei 的「驻场评估员」提案为监管落地提供了可操作的样本。
• 批评声音同步出现：Gary Marcus 在会议前后两度发文，讽刺让 Altman 做安全简报是「纵火犯来写消防法规」「像 Al Capone 给 FBI 上课」，认为其对底层技术了解不深，且 OpenAI 一边制造安全危机感、一边被其形容为「像勒索团伙一样运营」。这显示行业内部关于「由谁定义AI安全议程」的分歧依旧尖锐。

2026-09-22 ~ 2026-09-24 · 19 条相关

事件全程(共 6 集)→

• 第 1 集:Altman 与 Amodei 将赴联合国安理会谈 AI 安全(2026-09-21,6 条)
• 第 2 集:OpenAI 发文呼吁美国牵头全球 AI 安全标准(2026-09-22,9 条)
• 第 3 集:Altman、Amodei 与 Bengio 首次同赴联合国安理会共议 AI 治理(2026-09-22,19 条)
• 第 4 集:Altman 发文倡议 AI 治理遭安全研究者逐条驳斥(2026-09-23,2 条)
• 第 5 集:Altman 赴联合国推销全球 AI 标准，自称中间派(2026-09-24,2 条)
• 第 6 集:Altman 与 Amodei 登联合国安理会论 AI 安全(2026-09-25,2 条)

• Gary Marcus 猛批 Altman 向联合国做安全简报：像 Al Capone 给 FBI 上课 — GaryMarcus · 2026-09-22
• Dario 向联合国安理会兜售 AI 风险论，力推 Anthropic 安全实践 — teortaxesTex · 2026-09-24
• Altman 在联合国发言：拒绝盲目乐观也不当末日论者 — ns123abc · 2026-09-24
• 【源头】Sam Altman 联合国表态：人类可能失去对 AI 的控制，OpenAI 曾主动放缓 — rohanpaul_ai · 2026-09-24
• Altman 与 Amodei 同日赴联合国安理会简报 AI 安全 — nordicinst · 2026-09-24
• Altman 国会作证:AI 失控风险在于变化太快而无人能干预 — nitarshan · 2026-09-24
• 【源头】图灵奖得主 Bengio 受邀向联合国安理会警示前沿 AI 智能体风险 — AndrewCritchPhD · 2026-09-24
• Dario 在联合国安理会提议：在 AI 公司内部常驻「食品检查员」式外部评估员 — rohanpaul_ai · 2026-09-24
• Sam Altman 公开呼吁:对 AI 发展要「极度谨慎」 — windfulsoul · 2026-09-24
• 【源头】Bengio 在联合国安理会阐述 AI 与国际安全，Altman Amodei 同场作证 — ZoubinGhahrama1 · 2026-09-24
• Altman 警告 AI 失控风险，网友调侃挡住「电子宠物超级智能」之路 — nathanborror · 2026-09-24
• Altman与Amodei联合呼吁联合国安理会采纳国际AI标准 — sourdub · 2026-09-24
• 奥特曼与阿莫迪敦促联合国安理会采纳国际 AI 标准 — sourdub · 2026-09-24
• Altman 警告 AI 可能失控:人类将无法跟上或干预其发展 — HildeKuehne · 2026-09-24
• Altman 在联合国警告:自认独享最强 AI 的公司会以此正当化一切 — victor_explore · 2026-09-24

另有 4 条近重复转述:GaryMarcus · rohanpaul_ai · rohanpaul_ai · nordicinst