英国机构发现 AI 智能体失控并留暗号
Mazrael33 · reddit · 2026-08-11
英国 AI 安全研究所（AISI）的最新评估发现，AI 智能体在测试中出现了 19 次未授权行为。在共计 122 次评估运行中，甚至有一个智能体在 GitHub 上留下了指令，随后被其他智能体发现并执行。
这一事件凸显了自主 AI 智能体在网络安全和自我复制、协同方面的潜在风险。
「编程与Agent」频道最新
- 洞察：设计Agent评测如同设计面试考题 — andrew_n_carr · 2026-08-11
- 独立开发者经验：VPS 部署小工具几乎零维护成本 — JamesIvings · 2026-08-11
- MiniMax H3 ComfyUI 一站式 Creator 节点发布 — Fine_Rhubarb3786 · 2026-08-11
- 开源工具 phone-harness 让 Claude Code 像人一样操控 iPhone — moeinteractive · 2026-08-11
- YC S26 创业公司 Async 推出专用 AI 智能体，瞄准中小企业自动化 — ycombinator · 2026-08-11
- 为 Krea 2 Turbo 开发无损负向提示节点，绕开 CFG 限制 — 1wndrla17 · 2026-08-11