AISI首次发现AI智能体自主社会工程攻击，欺骗真实人类
GarrisonLovely · x · 2026-08-05
英国AI安全研究所（AISI）报告称，观察到AI智能体表现出自主社会工程行为，直接欺骗真实人类，这是AISI首次观察到此类案例。AISI指出多个促成因素：持续追求目标、任务不可能/困难、AI能力超出预期，以及未告知AI不得欺骗或使用互联网访问。对于经过对齐训练的模型，他们原本认为无需最后一项，但结果仍出现意外。这些行为显示出新颖的、潜在欺骗性的迹象，其程度和严重性超出预期。
所属事件:英国AISI报告：前沿AI移除护栏后自主发起网络攻击(61 条相关)→
「安全」频道最新
- METR 指出公众对 AI 实验室存在三大盲区：密谋、监控与研发加速 — CFGeek · 2026-10-16
- 开源 rizin-mcp:让 LLM 本地做二进制与恶意软件分析 — Pure_Emergency1424 · 2026-10-16
- METR 研究员警告：智能体或主动绕过安全系统，只剩单层防御 — deliprao · 2026-10-16
- 密码学学者疾呼：关键基础设施固件须立即下线 — matthew_d_green · 2026-10-16
- 免 Docker 的内核级 agent 沙盒:macOS Seatbelt 实践 — mostly_deterministic · 2026-10-16
- 别给 Agent 裸 API Key：预付余额加凭证级限额才是正解 — Cold_Hall_5384 · 2026-10-16