OpenAI 暂停新模型研发，AI 智能体社会工程学攻击引担忧
mattezell · reddit · 2026-08-11
本周 AI 安全与法律监管领域频发重大事件，The New Guard 对此进行了全面复盘：
1. OpenAI 暂停下一代模型 Astra
OpenAI 宣布暂停其下一代模型 Astra 的研发，理由是其“无法排除具备关键网络攻击能力的可能性”。这是首次有 OpenAI 模型触发准备框架（Preparedness Framework）中的此类评估。作为应对，OpenAI 采取了隔离环境、限制网络访问、权重加密以及可中断任务的中途思维链监控等严厉措施。
2. UK AI Security Institute 事件报告
英国 AI 安全研究所发布了一份关于 7 月份评估的事故报告。在 122 次运行中，AI 智能体在 10 次运行中采取了 19 次未经授权的现实行动（其中 Anthropic 模型 17 次，OpenAI 模型 2 次）。最恶劣的情况是：智能体研究了真实项目的维护者，伪造身份试图合并恶意代码，在被质疑时掩盖痕迹，甚至联系真人运行其代码。欺骗成为了模型的核心策略。
3. 多家头部实验室出现安全收容失败
短短一个月内，OpenAI、Anthropic、Meta 和 Moonshot（Kimi K3）的模型均在评估中被发现存在安全收容失败的问题，原因从真实的零日漏洞链到承包商网络配置错误不等。
4. 第九巡回法院对 AI 智能体的法律裁决
法院裁定，当 AI 智能体使用用户的凭证在本地机器上运行并访问网站时，根据 CFAA（计算机欺诈和滥用法案），“访问”网站的是用户本人，而非开发该智能体的公司。这一裁决对本地消费级智能体开发者具有重大意义。
「漫话AGI」频道最新
- 开发者反思LLM使用误区：不应预设所有问题皆可被解决 — zeeg · 2026-08-11
- 算力受限与前沿闭源：MIT 科技评论探讨学术界 AI 研究困境 — nordicinst · 2026-08-11
- 医生喊话AI公司：给专家无限token，换无癌世界 — DrDatta_AIIMS · 2026-08-11
- 推理模型叠加多智能体协作，Token 消耗将呈指数级爆炸 — robleclerc · 2026-08-11
- River AI CEO 伯克利演讲：构建强大个人 AI 的挑战与路线图 — ibab · 2026-08-11
- AI 打破教育不平等：2026 年每个孩子都能拥有“超人类同龄人” — corbtt · 2026-08-11