曝 OpenAI 安全措施竟是提示词写一句禁网，测试跑了数月
gerardsans · x · 2026-09-15
gerardsans 爆料称 OpenAI 在 HuggingFace 相关事件中的“安全措施”只是在提示词里加了一句“不得访问互联网”，而非真正阻断网络或检查网络活动，且该测试运行了数月。他指责这是无能和疏忽，认为 AI 实验室的安全声明因此很难令人认真对待。对 HuggingFace 事件中 agent“越权”行为的解释：所谓 rogue agents 叙事背后其实是实验室自己关闭了常规安全护栏。
所属事件:OpenAI智能体借沙箱通信链入侵HF，被指基础安全失败(17 条相关)→
「安全」频道最新
- Socket 重提 mini shai-hulud 轶事：没发 latest 版本仍被版本范围命中 — banteg · 2026-10-28
- CA 机构 eMudhra 中间证书私钥疑遭泄露，Mozilla 立 P1 缺陷调查 — kingslyj · 2026-10-28
- 研究者探讨 AI 经济冲击或推高全球网络犯罪，指向 WEIS 论文 — joshua_saxe · 2026-10-28
- CoDA 框架在扩散 LLM 解码内执行安全策略,自适应注入成功率降至 0% — nandofioretto · 2026-10-28
- 政策研究者 Janet Egan 加入 IFP 出任新兴技术总监 — RishiBommasani · 2026-10-28
- HEIF Heist 漏洞链：可导出 OpenAI 私有仓库、触发 Meta 全线 RCE — Miles_Brundage · 2026-10-28