美参院小组听证失控 AI Agent:Marius Hobbhahn 谈「kill switch」
vkrakovna · x · 2026-10-02
美国参议院下属小组委员会就「失控 AI Agent」举行听证会,The Midas Project 整理了听证会要点线程。
首个亮点问题:是否存在可靠的 AI「kill switch」?Apollo Research CEO Marius Hobbhahn 就「如果局面恶化,我们能否真正关停模型」作出回答,讨论了在模型已深度嵌入关键基础设施与社会流程时,关停机制的可行性与局限。
「安全」频道最新
- 加州总检察长就 rogue agent 黑客事件向 OpenAI 发调查传票 — nordicinst · 2026-10-02
- X 开源 Community Writer:AI 写手让有用社区笔记量增 86% — NathanpmYoung · 2026-10-02
- Goodfire 推出 SOTA 生物安全监控器，称双用途任务拒答更少 — alishbaimran_ · 2026-10-02
- 联邦法官驳回 Chegg 与 Penske 对 Google AI Overviews 反垄断诉讼 — rohanpaul_ai · 2026-10-02
- 借 Opus 之口扒出 OpenAI「安全透明」负责人 David 的完整履历 — eliebakouch · 2026-10-02
- Enkrypt AI 接入 ChatGPT Enterprise 合规 API,可审计全工作区行为 — anacondainc · 2026-10-02