前 Anthropic 工程师灭绝警告发酵,欧盟呼吁全球 AI 规则
NinaDSchick · x · 2026-09-12
EU 技术主管 Henna Virkkunen 在都柏林一场儿童网络安全会议间隙表示,在一封前 Anthropic 工程师关于 AI 可能终结人类警告广泛传播后,「全球规则确实非常必要」,呼吁继续推进国际合作。
要点:
- 欧盟《AI 法案》已要求 Anthropic、OpenAI 等公司评估并缓解模型失控风险,但全球范围内尚无同类要求。
- 欧盟委员会主席冯德莱恩 6 月已在 G7 提出「欧美应在 AI 上合作」,强调互补优势与共同安全利益。
- 德国数字事务部长 Karsten Wildberger 主张仿照国际原子能机构(IAEA)建立国际 AI 安全机构。
- 原帖作者 Nina Schick 对此持批评态度,认为欧盟自己没做成 AI,如今只会让自己更缺竞争力。
所属事件:前Anthropic研究员辞职警告AI风险，引发跨媒体与政界监管浪潮(32 条相关)→
「漫话AGI」频道最新
- WSJ 专栏：对押注 Anthropic 股份的投资者，10% 灭绝风险或只是 90% 的组合胜率 — davidmanheim · 2026-10-27
- WSJ 专栏:就算 10% 灭绝概率,押注 Anthropic 股票仍可能是 90% 的赢面 — peterwildeford · 2026-10-27
- Simile 融资 3 亿美元估值 20 亿,用 AI 模拟真人预测行为,准确率超 85% — joon_s_pk · 2026-10-27
- 研究员比喻：AI 图像像发霉面包，AI 文本像变质牛奶 — _vaishnavh · 2026-10-27
- Diamandis:别用 AI 加速旧工作,回头捡起你放弃的项目 — PeterDiamandis · 2026-10-27
- Nat Lambert:任何 AI 模型,没经过严格测试都不该被信任 — natolambert · 2026-10-27