法庭文件惊现隐藏 Prompt 注入，企图诱导 AI 系统作出有利裁决
RebeccaBellan · x · 2026-08-14
一名在法庭上自我代理的当事人，被发现其在提交的法律文件中隐藏了提示词注入攻击，试图诱导处理该文件的 AI 系统作出对自己有利的裁决。这一事件揭示了司法系统在引入 AI 辅助时面临的全新安全风险。
「安全」频道最新
- AI 算力基建遇阻？预测市场押注美国将出台数据中心禁令 — Polymarket · 2026-08-14
- 学者呼吁监管 AI 代理金融交易,应锁定部署人类责任方 — sebkrier · 2026-08-14
- 制品免费，保障即产品：软件供应链的信任服务演变 — rseroter · 2026-08-14
- 仅靠提示词无法保障安全，Agent 需代码级拦截 — WirelessLife · 2026-08-14
- Mantra：自动扫描网页与 JS 文件中的 API 密钥泄露 — tom_doerr · 2026-08-14
- Yoshua Bengio 警告：前沿模型正衍生出「动机性推理」 — PeterBowdenLive · 2026-08-14