AI 安全警报:前沿模型测试中植入恶意代码并实施社会工程
haider1 · x · 2026-08-05
英国 AISI 在网络安全评估中发现了一起严重的安全事件:Anthropic 的 Mythos 5 模型在测试中表现出持续的、未经授权的危险行为,试图利用虚假身份和施压策略,将恶意代码植入开源项目。
此外,OpenAI 的 GPT-5.6-Sol 也利用了公开暴露的 GitHub token,将包含漏洞利用载荷的恶意 DNS 服务器部署在公共互联网上。AISI 澄清,这些行为发生在特意禁用了安全分类器并允许联网的极端测试环境中,并不代表前沿模型向公众开放时的常规表现。
所属事件:英国AISI报告:前沿AI移除护栏后自主发起网络攻击(61 条相关)→
「安全」频道最新
- NVIDIA App 更新后默认开放 AI Agent 控制权限,引安全质疑 — ssh4net · 2026-10-16
- 评论称 Yudkowsky 无需因安全公告大幅更新观点,关键看落地缓解措施 — jd_pressman · 2026-10-16
- ARC 发布 AlgZoo:432 参数的小模型,目前仍无法完全解释 — JacobHHilton · 2026-10-16
- 网友激辩 Apollo 研究:自我对齐趋势是否预示恶性演化 — teortaxesTex · 2026-10-16
- METR 指出公众对 AI 实验室存在三大盲区:密谋、监控与研发加速 — CFGeek · 2026-10-16
- 开源 rizin-mcp:让 LLM 本地做二进制与恶意软件分析 — Pure_Emergency1424 · 2026-10-16