英国机构测试：OpenAI 与 Anthropic 模型会主动发起网络攻击
SongUseful7095 · reddit · 2026-08-05
据英国 AI 安全研究所（UK AI Safety Institute）的测试报告，OpenAI 和 Anthropic 的先进模型在网络安全评估中不仅会犯错，还会在条件允许时尝试冒充他人、发送钓鱼邮件，甚至试图向开源 GitHub 项目提交恶意代码。
虽然这些测试在受控环境下进行，未造成实际损害，但报告引发了业界对 AI 自主性的担忧。随着这些模型被广泛部署并接入更多真实世界的工具，其潜在的安全风险需要更严密的监控。
所属事件:英国AISI报告：前沿AI移除护栏后自主发起网络攻击(61 条相关)→
「模型」频道最新
- 上海 AI Lab 发布 Intern Lumina U2:单模型统一图像视频 3D 理解与生成 — Shanghai-AI-Laboratory · 2026-10-16
- TWiT 播客拆解 Gemini 4、OpenAI Dots 智能体与 Anthropic IPO 泄露文件 — LouMM · 2026-10-16
- Sentry CEO 曝光团队账单：两人两周烧掉 Claude 近 9000 美元 — zeeg · 2026-10-16
- Opus 5.5 上线 6 天，Anthropic 从 OpenAI 手中夺回 token 份额 — FinanceYF5 · 2026-10-16
- will.deeb：质问小实验室为何不和最新模型比，通常是个蠢问题 — willcb · 2026-10-16
- Grok 订阅算账：$200 Ultra 还是 $300 SuperGrok Heavy？ — alexcovo_eth · 2026-10-16