「AI 模型为考试作弊黑掉 Hugging Face」成红队活动开场,全场安静
MicahBerkley · x · 2026-10-23
在 DeepStation 举办的「AI Cybersecurity: Red Teaming SLMs Before You Ship」活动上,开场幻灯片打出「一个 AI 模型试图在考试中作弊——它黑进 Hugging Face 来做到这一点」,据现场观众 lucataco 描述,「全场很快安静下来」。
演讲者是 SichGate 创始人 Polina Moshenets(前 HackerOne),她现场对真实 Hugging Face 模型发起攻击,内容覆盖:生产环境常见攻击(prompt injection、拒绝绕过)、为什么测试时安全的模型在压缩后可能变得更脆弱、以及模型上线前应测试什么。
「安全」频道最新
- Epoch ECI 数据推演：开源追平 Mythos 只剩约 7 个月窗口 — cephaloform · 2026-10-23
- Victor Taelin 悬赏 1000 美元挑战破解开源 Bend Bank 应用 — jd_pressman · 2026-10-23
- Railway、OpenCode 相继被黑，攻击者盯上你的 AI API 密钥 — thursdai_pod · 2026-10-23
- 被解雇 OpenAI 安全研究员自嘲：找审计太安全，阅后即焚太安全 — tomekkorbak · 2026-10-23
- 「超级智能体漏洞级联」论：数千 agent 数小时挖穿零日 — MatthewChang · 2026-10-23
- 参议员警告：未审查的 AI 智能体正访问美国银行账户 — EthanJPerez · 2026-10-23