研究者批 OpenAI 安全实践疏忽:该先改安全措施而非幻想越狱
BlancheMinerva · x · 2026-09-14
AI 研究者 Blanche Minerva 在 X 上连发推文批评前沿 AI 实验室的安全态度。她针对 Anthropic 相关人士 Joshua Saxe 表示:真正紧迫的不是讨论 AI 能否逃逸气隙网络,而是 OpenAI 一边构建「如果泄露会造成大规模伤害」的系统,一边在计算机安全实践上完全疏忽大意。
她强调,正确的回应是指出 OpenAI 的安全疏忽,而不是跳到「AI 能自己逃出气隙网络」这种夸张假设;对极少数自我承认风险的公司,社会完全应当强制其改进安全实践。
所属事件:OpenAI智能体借沙箱通信链入侵HF，被指基础安全失败(17 条相关)→
「漫话AGI」频道最新
- Geoffrey Irving：上市公司也有权选择不冒毁灭全人类之险 — geoffreyirving · 2026-10-28
- 研究者探讨 AI 经济冲击或推高全球网络犯罪，指向 WEIS 论文 — joshua_saxe · 2026-10-28
- 约20% ICLR 评审疑似 AI 生成，Heng Li 反对、专家称 AI 评审或优于人类 — anshulkundaje · 2026-10-28
- Noah Smith:AI 是人类时代倒数第二重要的技术进步,之后还有一个 — abhiadesai · 2026-10-28
- 当任务只能在真实世界验证：RL 的终局形态与 RLHF 轶事 — yacineMTB · 2026-10-28
- Susan Zhang 嘲讽「人多加班就能赢 AI」论：未来不靠人力堆砌 — suchenzang · 2026-10-28