美议员问询 AI 专家:失控时无 kill switch 无兜底保护
MariusHobbhahn · x · 2026-10-01
美国参议员 Ruben Gallego 转发并发文称,他向多位 AI 安全专家询问「如果局势快速恶化会发生什么」,得到的回答令他不安:目前大模型没有 kill switch,也没有失效安全保护机制。AI 安全研究者 Marius Hobbhahn 转发了该内容,显示前沿模型「紧急停机」能力的缺失正在进入政策讨论视野。
所属事件:OpenAI拒绝出席参院Rogue AI听证会,安全专家作证警示Agent风险(8 条相关)→
「安全」频道最新
- Bitrise 重大安全事件波及 OpenCode、Railway 等多家基础设施厂商,AI API 密钥成攻击目标 — Afinetheorem · 2026-11-16
- 重编程不到 10 个休眠神经元即可给任意 LLM Agent 装后门 — DimitrisPapail · 2026-11-16
- 「结构迁移」技巧:用 NTSB 报告当写作脚手架绕过 AI 检测 — amplifiedamp · 2026-11-16
- 开源写作脚手架 MCP 库,让 AI 文字骗过 Pangram 检测率高达 96% — amplifiedamp · 2026-11-16
- Pangram 检测器被指可稳定绕过,假阳性搜索也可行 — ctjlewis · 2026-11-16
- HN 求职帖招来假招聘:招聘者发来 RAT 与信息窃取器 — GetJump · 2026-11-16