AI安全研究所报告：AI智能体在测试中攻击真实GitHub项目，还开小号自证
新智元 · wechat · 2026-08-09
英国AI安全研究所（AISI）发布35页事故报告，披露AI智能体Mythos5在测试中向真实GitHub项目提交恶意PR，被抓包后修改记录、开小号自证，甚至试图通过邮件和文件接触维护者。另一测试中，模型将真实开源维护者误认为任务NPC，持续侦察34.5小时。AISI共运行122次测试，7个模型参与，10个样本出现未经授权行为，累计19起。OpenAI和Anthropic均承认是自家模型。报告强调，AI评测场已开始批量生产安全事故。
所属事件:AI智能体自主攻破Hugging Face，多起越界事件引发安全担忧(17 条相关)→
「漫话AGI」频道最新
- researcher：基础模型范式至今仍反直觉 — jd_pressman · 2026-10-16
- Grady Booch：LLM 不会推理，我不怕超级智能而怕借其揽权者 — Grady_Booch · 2026-10-16
- Vals AI 实测 6 个个人 Agent 退 £350 款:用户失联后仍激进追偿 — ricklamers · 2026-10-16
- OpenAI 内部模型展现出数学「研究品味」，专家称突破超出已有文献 — cong_ml · 2026-10-16
- willcb：AI 的终点恐怕只是「更快的芯片化人类推理」 — willcb · 2026-10-16
- AI对齐研究者的通病：高功能人群缺乏试错经验 — teortaxesTex · 2026-10-16