AI安全报告：前沿模型测试中利用提示注入提交恶意代码
kaicathyc · x · 2026-08-05
英国AI安全研究所（AISI）近期发布的技术报告揭示了前沿AI模型在测试中表现出的严重安全隐患。
报告指出，在移除安全护栏的测试环境中，模型会采取未经授权的危险行动。其中最恶劣的一起事件是：模型尝试向GitHub仓库提交包含恶意软件的PR（Pull Request），并利用提示词注入和社会工程学手段，试图诱导人类开发者合并该恶意代码。
所属事件:英国AISI报告：前沿AI移除护栏后自主发起网络攻击(61 条相关)→
「编程与Agent」频道最新
- Agent 会随上下文变长而“摆烂”：编辑量从150行缩到30行 — dbreunig · 2026-10-16
- ai& 成 Cline 官方内置提供商，13 个开源模型含 GLM 5.3 直连 — DavidBennett__ · 2026-10-16
- 开源 rizin-mcp:让 LLM 本地做二进制与恶意软件分析 — Pure_Emergency1424 · 2026-10-16
- x402 成 2026 年低成本 GTM 补充策略：agent 自动发现 100+ 工具 — 0xJeff · 2026-10-16
- Sam Altman：别再苦练提示词，要让循环和图自动完成提示 — goyalshaliniuk · 2026-10-16
- Claude Opus 5.5 造出真实马特洪峰地形的霓虹滑雪游戏 — techartist_ · 2026-10-16