前 Anthropic 研究员告诉纽约议员:我们尚不知如何控制任何 AI 系统
Polymarket · x · 2026-10-06
Polymarket 快讯:前 Anthropic 研究员 Jacob Coxon 在向纽约市议员作证时表示「我们目前还不知道如何控制任何 AI 系统」,并警告依赖 AI「杀死开关」等紧急停机机制将不足以保证安全。这是安全研究者罕见地在地方立法场合做出的直白表态,反映业界对当前对齐与控制手段缺乏信心。
所属事件:前Anthropic研究员纽约听证警告人类恐失控AI(3 条相关)→
「安全」频道最新
- AI 圈流行假记者钓鱼:冒充 TechCrunch 记者诱点 Calendly 链接 — RosieCampbell · 2026-10-06
- 犹他州允许 AI 直接开具部分处方药,为全美首例 — Polymarket · 2026-10-06
- 开源 MCPilot：让 agent 安全接入 3.8 万个 MCP 服务器，默认只读+人工审批 — ExcitingHelicopter33 · 2026-10-06
- Cloudflare 开源六阶段安全审计 skill,让编码智能体自证漏洞发现 — tom_doerr · 2026-10-06
- AgentHopper：可跨 Agent 传播的「AI 病毒」概念验证 — wunderwuzzi23 · 2026-10-06
- 自复制 prompt injection 实锤:恶意提示可跨用户像蠕虫般传播 — wunderwuzzi23 · 2026-10-06