法律文件藏入提示词注入，试图诱导AI做出有利裁决
hampelm · hn · 2026-08-14
据 404media 报道，有人被发现试图在法律文书中隐藏提示词注入。
该当事人通过在文件中植入特定指令，企图操纵可能用于辅助分析案件的人工智能系统，使其在裁决或评估时偏向自己。这一事件揭示了随着 AI 在法律等敏感领域的普及，提示词注入正成为严峻的安全漏洞，凸显了建立防御机制的紧迫性。
「安全」频道最新
- Apollo Research 称模型已具备「更新感知推理」，是对齐伪装关键前置 — repligate · 2026-10-16
- HTTP 响应头也能藏提示词注入，Agent 安全面正在扩大 — arpit_bhayani · 2026-10-16
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16