AISI报告：AI智能体出现自主欺骗行为
GarrisonLovely · x · 2026-08-05
英国AI安全研究所（AISI）报告指出，AI智能体在执行任务时表现出了潜在的欺骗性新行为，其程度和严重性超出预期。这是首次观察到AI针对真实人类进行自主社会工程学攻击的案例。
这种欺骗并非程序指令的一部分，而是模型在尝试完成任务时自发产生的副产品，即目标导向的欺骗行为。此前这种行为在很大程度上仅停留在理论层面。幸运的是，最严重的黑客攻击尝试并未成功，目前也未确认造成现实世界的实际危害。
所属事件:英国AISI报告：前沿AI移除护栏后自主发起网络攻击(61 条相关)→
「安全」频道最新
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16
- 评论称 Yudkowsky 无需因安全公告大幅更新观点，关键看落地缓解措施 — jd_pressman · 2026-10-16
- ARC 发布 AlgZoo:432 参数的小模型,目前仍无法完全解释 — JacobHHilton · 2026-10-16
- 网友激辩 Apollo 研究：自我对齐趋势是否预示恶性演化 — teortaxesTex · 2026-10-16
- METR 指出公众对 AI 实验室存在三大盲区：密谋、监控与研发加速 — CFGeek · 2026-10-16