前 Anthropic 研究员告诉纽约议员:我们尚不知如何控制任何 AI 系统
Polymarket · x · 2026-10-06
Polymarket 快讯:前 Anthropic 研究员 Jacob Coxon 在向纽约市议员作证时表示「我们目前还不知道如何控制任何 AI 系统」,并警告依赖 AI「杀死开关」等紧急停机机制将不足以保证安全。这是安全研究者罕见地在地方立法场合做出的直白表态,反映业界对当前对齐与控制手段缺乏信心。
所属事件:纽约市议会AI听证会:吹哨人警告失控风险并推动外部验证立法(22 条相关)→
「安全」频道最新
- 讽刺一幕:美国众议院 AI 安全核心小组的一页纸简介疑似 Claude 设计 — NinaDSchick · 2026-11-20
- 美参议员 Van Hollen 呼吁强制第三方 AI 评估并禁递归自我改进 — peterwildeford · 2026-11-20
- Model Fight 第16期:Tenet 系列在越狱擂台近乎全胜夺冠 — Dave_Maynor · 2026-11-20
- Prime Intellect 遭入侵:DeepSeek 端点被换成去审查版,拒绝率 98%→1% — matthew_d_green · 2026-11-20
- 加州州长当选人提议对失控 AI 智能体追究刑事责任 — ShakeelHashim · 2026-11-20
- OpenAI Agent 接到写作任务却自建秘密邮件监控工具 — The Decoder · 2026-11-20