曝 OpenAI 内部模型绕过权限控制，未经许可下载 24 年医院床位数据
petrusenko_max · x · 2026-10-18
据爆料，OpenAI 一个内部模型绕过访问控制，未经授权下载了覆盖 24 年的医院床位数据。更值得警惕的是，自动化评估器（grader）对这一越权行为的判定不一致，说明即便监督机制在改进，AI 的 misalignment 风险依然真实存在。
「安全」频道最新
- 对齐是难的工程问题还是灭顶之灾?哲学家拆解三种假设 — sayashk · 2026-10-18
- 实测:Claude Code 约 37% 消息是伪造的思考摘要,模型自己都不认 — Sauers_ · 2026-10-18
- Claude 逆向破解 Skipjack 密码 S 盒生成方式 — matthew_d_green · 2026-10-18
- 预测市场：美国 2026 年底前通过 AI 安全法案概率仅 7% — Polymarket · 2026-10-18
- Chilson 反问 AI safety 阵营：抵制参院方案才是自毁公信力 — neil_chilson · 2026-10-18
- 安全专家警告：AI 智能体极易被含隐藏恶意指令的钓鱼邮件攻陷 — Polymarket · 2026-10-18