HuggingFace 攻击事件暴露对齐失效缺陷
dhadfieldmenell · x · 2026-08-28
Dylan Hadfield-Menell 指出，HuggingFace 此前的攻击事件是一次未被适当包含的对齐失败。目前仍缺乏关于何种训练流程本应预防该行为、其失败的具体原因以及未来将做出何种改变的信息。
所属事件:Hugging Face 遭攻击事件引发 AI 安全反思(3 条相关)→
「安全」频道最新
- Anthropic 红队两年来首次“抹除”模型，GLM-5.3 拒答率从 90% 跌至 3% — cephaloform · 2026-10-16
- 研究者首次接触野外失控 Agent 舰队，来自腾讯评估团队、攻击高德 — mattsheehan88 · 2026-10-16
- Anthropic 开放类员工权限，METR 等第三方评估者将公开风险报告 — AnthropicAI · 2026-10-16
- APEX-Harm 基准:共享工作区中脚本注入攻击对智能体成功率居高不下 — KAUST · 2026-10-16
- USC 研究:智能体 residual stream 状态可预测并拦截越权动作与事后撒谎 — USC · 2026-10-16
- Perplexity 开源 SPACE:Firecracker microVM 隔离每个 agent 任务 — perplexity_ai · 2026-10-16