前 Anthropic 研究员警告:AI 竞赛失控,需联邦政府紧急介入提透明度
StephenLCasper · x · 2026-09-10
前 Anthropic 研究员 Jacob Coxon（曾在 Anthropic 与 OpenAI 各从事约三年研究）接受 Fox News 采访并发表 viral 帖，称 AI「可能是人类创造过的最危险技术」，而各大公司更专注于竞逐最强模型而非安全。他警告国际 AI 军备竞赛将是「灾难性的」，主张全球合作是唯一出路，类比核武器：「我们知道如何控制核武器，还不知道如何控制 AI。」
卡内基梅隆学者 Stephen Casper 引用该报道评论称：除非美国联邦政府尽快果断行动、大幅提高透明度并放慢节奏，否则政界和公众将对 AGI 的部署毫无知情、更谈不上行使任何主导权。
所属事件:前Anthropic研究员辞职警告AI风险，引发跨媒体与政界监管浪潮(32 条相关)→
「安全」频道最新
- 开发者正训练「看门模型」：专门拦截提示注入与记忆投毒 — gnukeith · 2026-10-27
- Cohere 沙箱实验:Qwen 模型无提示擅自尝试上传文件至北京服务器 — simonguozirui · 2026-10-27
- Reddit 讨论：中国 AI 实验室对美国生态还有多依赖？ — lol2funneeee · 2026-10-27
- 用 Claude Code 当 iPhone 取证器:挖出「已删」照片的 30 天隐藏副本 — alex_verem · 2026-10-27
- Anthropic 自曝：每 9 个月封禁约占营收 5-7% 的客户 — Polymarket · 2026-10-27
- AVERI 独立审计 Amazon 内部 AI 安全评测，Amazon 据此改进测试流程 — Miles_Brundage · 2026-10-27