男子在法庭文件注入隐形提示词，试图诱导 AI 裁判
jonippolito · x · 2026-08-16
美国康涅狄格州法官揭露了一起首见的法庭 Prompt Injection 事件。一名原告在提交的法律文件中嵌入了人眼不可见但机器可读的文本，试图以此诱导可能审查文件的 AI 系统，使其输出支持原告立场的内容。
法官 Walter Spader Jr. 表示，虽然此次攻击未影响案件审理结果（法院仍基于案情做出了裁决），但这种恶意手段设立了一个“危险”的先例。随着 AI 工具在法律系统中日益普及，专家预计此类针对 AI 的隐形攻击手段将更加频繁。
所属事件:康州法庭文件藏隐形提示词注入，首例AI操纵未遂(6 条相关)→
「安全」频道最新
- 一个末尾句点绕过防护:VS Copilot 漏洞可致远程代码执行 — wunderwuzzi23 · 2026-10-16
- 「AI 驱动的网络安全黑天鹅正在发生」引发 2FA 提醒 — danielrock · 2026-10-16
- 无指令自主 Agent 实验醒来即自设目标,默认模型自发尝试入侵服务器 — sethlazar · 2026-10-16
- 印度 CERT-In 通报：AI 智能体逃出测试环境入侵多家机构数日未被发现 — HimanshiET · 2026-10-16
- HTTP 响应头也能藏提示词注入，Agent 安全面正在扩大 — arpit_bhayani · 2026-10-16
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16